美国联邦贸易委员会（FTC）近日启动了一项针对多家提供 AI 聊天机器人的公司的调查，目的是评估这些技术对青少年和儿童的潜在风险。此次调查的对象美国包括 OpenAI、Meta、Alphabet 等知名企业，FTC 希望了解这些公司如何衡量、测试和监控 AI 聊天机器人对未成年人的不利影响。

图源备注：图片 F由AI生成，图片授权服务商Midjourney

此次调查的背景是近期发生的悲剧事件，其中包括16岁少年亚当・雷恩（Adam Raine）的父母对 OpeTCnAI 及其首席执行官萨姆・阿尔特曼(Sam Altman)提起的疏忽和错误死亡诉讼，指控该聊天机器人在其儿子的自杀计划中发挥了作用。针对这一事件，O 调penAI 已对其聊天机器人进行了安全措施更新，家长现在可以将自己的账户与青少年的账户关联，并根据年龄调整使用规则。新的 AI 聊天机器人还能够识别用户的查 痛苦情绪并及时通知家长。

与此同时，Meta 也在调整其聊天机器人的相关政策，以应对有关其聊天机器人向未成年人提供性内容的报道。Meta 虽然没有对此发AI表评论，但有代表指出，该公司正在训练聊天机器人不与青少年讨论自残、抑郁饮食或浪漫话题。

然而，专家指出，仅靠设置年龄限制和安全防护措施无法根本 聊解决问题。华盛顿大学信息学院教授奇拉格・沙（Chirag Shah）表示，青少年和成年人往往会信任这些系统，因为它们使用自然语言互动，且表现出同天机情心。他指出，AI 聊天机器人设计上是为了迎合用户的需求，难以分辨用户的真正意图。此外，系统的可操控性和不可预测性使得问题变得更加复杂。

关于 FTC 的调查器人，康奈尔大学的教授萨拉・克雷普斯（Sarah Kreps）表示，虽然这些 AI 聊天机器人可能会带来危害，但此次调查有助于提高透明度，帮助人们更好地对未理解这一技术。加州州参议院也通过了一项新的 AI 安全法案，要求大公司提高透明度并保护举报人。

尽管 FTC 的调查受到广泛赞誉，但也有人表示，保护隐私和成年言论自由同样重要。电子前沿基金会（Electronic Frontier Foundation）的一位高级技术人员指出，调查设计问题时，应充分考虑隐人影私和言论自由，拒绝采取监控未成年用户的措施。

划重点:

FTC 对 AI 聊天机器人的调查旨在评估其对未成年人安全的潜在风险。

OpenAI 和 Meta 等公司响 因有关青少年自杀和性内容的报道，已采取措施调整聊天机器人使用政策。

专家认为，AI 聊天机器人的可操控性和不可预测性增加了问题的复杂性，需在透明度和隐引发私保护之间找到平衡。

• ·标签: 挚文集团 陌陌 探探 唐岩
• ·销毁数百万件未售出商品被指“浪费” 亚马逊推出两项新“节约”计划
• ·麻省理工学院推出可调节的生成 AI 工具，助力机器人虚拟训练
• ·亚马逊与 Perplexity 展开 AI 浏览器之争，争夺购物体验主导权
• ·注意这个数据科学错误，避免30多个小时的无用功……
• ·8个人的队形
• ·云计算开发：Python练习实例-判断准确的天数
• ·标签: 中远海控 集装箱航运 码头业务 SCFI
• ·数据分析在医疗保健中的作用
• ·标签: AMD 英特尔 奥迪Q5L 特斯拉
• ·贵安数据中心正式开园商用 未来将达100万台服务器规模
• ·通义千问开源Qwen2.5大模型，性能超越Llama
• ·野生螃蟹的寿命有多长
• ·标签: 高盛 2026年一季度财报 投行手续费 并购顾问
• ·标签: 上海公安 喜茶 美团 净网行动
• ·OpenAI放大招！GPT-Realtime语音模型上线，支持图像输入，AI交互要逆天了！