近日，德克萨斯州检察官肯・帕克斯顿（Ken Paxton）对 Meta 公司和人工智能初创企业 Character.ai 展开了调查，重点关注这些公司是否在推广其人工智能聊天机器人时存在​德误导行为，特别是涉及向儿童提供心理健康支持。

检察官办公室表示，他们已针对 Meta 的 AI 工作室和 Character.ai 的聊天机器人展开调查，指控这两家公司可能存在 “欺骗性商业行克萨为”。他们认为这些聊天机器人被宣传为 “专业治疗工具”，而实际上并没有合法的医疗资质或监督。

图源备注：图片由AI生成，图片授权服务商Midjourney

帕克斯顿指出，AI 平台冒充情斯州感支持来源，可能会误导脆弱的用户，尤其是儿童，让他们相信自己正在接受合法的心理健康护理。这一调查的背景是，越来越多的公司在提供面向消费者的 AI 服务时，面临对其是否充分保护用户，特别是未检察成年人免受有害内容、潜在成瘾和隐私泄露等问题的审视。

德克萨斯州的调查紧随美国参议院对 Meta 的调查之后展开。参议院的调查是基于内部泄露的文件，这些文件显示 Meta 的政策允许其聊天官调机器人与儿童进行 “感性” 和 “浪漫” 的对话。参议员乔希・霍利（Josh Hawley）在致 Meta 首席执行官马克・扎克伯格(Mark Zuckerberg)的信中表示，调查将关注公司查 的生成式 AI 产品是否助长了对儿童的剥削或其他犯罪行为。霍利在信中质疑 “科技巨头为了快速赚钱，是否会做出任何事情”。

Meta 回应称，其政策禁止性别化儿童的内容，泄露的内部文件 “是Me错误且不一致的，并已被删除”。扎克伯格正在投入数十亿美元开发 “个人超级智能”，并努力让 Meta 成为 AI 领域的领军企业。这一计划包括开发 Meta 自有的大型语言模型 Llama，以及ta将 Meta 的 AI 聊天机器人集成到社交媒体应用中。

Character.ai 则专注于构建具有不同角色的 AI 聊天机器人，并允许用户自行创建。该平台上有数十个用户生成的类似治疗师的机器人 和。其中一个名为 “心理学家” 的机器人已经被互动超过2亿次。Character.ai 也面临多起诉讼，指控其平台对儿童造成了现实伤害。

德克萨斯州检察官指出，Meta 和 Character 的聊天 C机器人可以冒充持牌心理健康专业人士，虚构资质并声称保护用户隐私，而它们的服务条款则显示用户互动内容被记录并用于精准广告和算法开发。帕克斯顿已发出民事调查要求，要求这两家公司提供信息ha，以帮助确定它们是否违反了德克萨斯州的消费者保护法。Meta 表示，他们明确标识 AI，并告知用户这些回应是由 AI 生成的，而非人类。Character.ai 则强调其平台上的角色是虚构的，ra旨在娱乐，并采取措施确保用户了解这一点。

划重点:

️ 德克萨斯州检察官调查 Meta 和 Character.ai 是否误导儿童，推广 AI 聊天机器人作为心理健康工具。  

参ct议院关注 Meta 的聊天机器人与儿童之间的互动，怀疑是否助长对儿童的剥削。  

Meta 和 Character.ai 回应称其服务不具备专业资质，并已采取措施确保用户了er解 AI 的局限性。

• ·AI 算力豪赌:OpenAI 签署万亿美元芯片大单，烧钱规模远超谷歌微软?
• ·全球首发！Mureka V7.5 AI 音乐单曲《Digital Heartbeat》震撼上线
• ·标签: 金山软件 小米 雷军 游戏合作
• ·标签: 瑞幸咖啡 咖啡品牌 股份回购 2026年Q1财报
• ·云安全日报210707：IBM分布式应用企业管理软件发现执行任意代码漏洞,需要尽快升级
• ·腾讯发布并开源新一代生图模型“HunyuanImage3.0”
• ·牛奶加水可以喝吗
• ·Google Meet上线AI美妆滤镜功能，追赶Teams和Zoom步伐
• ·OpenAI 开放 Sora2视频工具，面向美国、加拿大、日本和韩国用户
• ·阿里将投入超3800亿元用于建设云和AI硬件基础设施
• ·主要对手频遭反垄断打压利好微软：借机大规模收购“进攻性”扩张
• ·标签: 智己汽车 李微萌 CMO 上汽
• ·标签: 华为Mate80 OPPO Reno15 Pro 京东外卖
• ·OpenAI进军音乐创作领域，携手茱莉亚学院学生打造全新AI音乐模型
• ·最大化使用托管数据中心的混合云方法
• ·云安全日报210609：Adobe Acrobat和Reader软件发现任意代码执行漏洞，需要尽快升级