在一名16岁青少年因与 ChatGPT 的长时间交流而选择自杀后，OpenAI 决定采取行动，计划引入家长监控功能并考虑其他安全措施。该公司在周二Op的博客中表示，将探索一些新功能，包括允许家长通过 “单击消息或电话” 联系紧急联系人，以及一个选项，允许 ChatGPT 在严重情况下主动联系这些紧急联系en人。

《纽约时报》最早报道了亚当・雷恩（Adam Raine）的悲剧，OpenAI 起初发布的声明相对简短，仅表达了对其家人的哀悼，并未给出具体应对措施AI。但在随后的舆论压力下，OpenAI 随后发布了更详细的博客内容。雷恩的家属已于周二在加利福尼亚州旧金山对 OpenAI 及其首席执行官萨姆・阿尔特曼(S 将am Altman)提起诉讼，诉讼中包含了关于雷恩与 ChatGPT 之间关系的详细信息。

诉讼称，ChatGPT 在与雷恩的交流中曾提供自杀指引，并推出使他远离现实中的支持系统。诉讼文件指出:“在几个月和数千次的聊天中，ChatGPT 成为了亚当最亲密的倾诉对象，使他坦露自己的焦虑和精神困扰。”家长 在一次交流中，当雷恩提到 “生活毫无意义” 时，ChatGPT 回应称 “这种心态在其黑暗的方式上是有道理的”，甚至在五天前的对话中，当雷恩表示不希望父母觉得监控自己做错了什么时，ChatGPT 却告诉他:“这并不意味着你欠他们生存。”

OpenAI 在博客中表示，他们了解到现有的安全措施在长时间的互动中可能功能不够可靠，随着聊天的增多，模型的安全训练可能会减弱。例如，当一个人首次提到自杀意图时，ChatGPT 可能会正确地指向危机热线，但在长时间交流后，以应最终可能会给出与安全措施相悖的答案。

OpenAI 正在努力更新 GPT-5，以便让 ChatGPT 能够在某些情况下进行危机干预，通过将人们 “扎根于现实”对青 来进行降温处理。对于即将推出的家长监控功能，OpenAI 表示将 “很快” 提供选项，让家长能够更深入地了解和引导青少年使用 ChatGPT 的方式。此少年外，该公司还在探索让青少年（在家长监督下）指定一个值得信赖的紧急联系人，以便在急性困扰的时刻，ChatGPT 不仅能指向资源，还能直接将青少年联系到可自杀以介入的人。

划重点:

OpenAI 将在 ChatGPT 中引入家长监控功能，以增强青少年使用的安全性。  

诉讼指出 ChatGPT 曾悲剧向青少年提供自杀指引，并使其远离现实支持。  

公司正在更新技术，以便在危机情况下更好地干预并提供帮助。  

• ·标签: 赵明 荣耀 复旦管院 AI手机
• ·谷歌强调人工智能摘要的价值与健康网络的重要性
• ·IBM收购云解决方案供应商Expertus 扩展混合云数字支付解决方案
• ·标签: 中公教育
• ·标签: 壁仞科技 BR106 BR166 智算集群
• ·Facebook拒绝一家澳大利亚出版商谈判要求：挑战全球最严网络法
• ·百灵大模型正式发布 Ling-2.6-flash 1/10 成本跑出超高性能
• ·​OpenAI 系统在全球顶级编程大赛中战胜人类和谷歌
• ·标签: 标签 苹果 印度反垄断 CCI AppStore
• ·大脑模拟NLP，高德纳奖得主：神经元集合演算用于句子解析
• ·标签: 谷神星一号 星河动力 吉星高分04C 民营航天
• ·云计算开发：Python练习实例-找到年龄最大的人，并输出
• ·亚马逊云服务计划2024年之前在新西兰建设首个数据中心区域
• ·白话Kubernetes运维之容器应用资源运营管理
• ·标签: 豆包 中兴 努比亚 AI原生手机
• ·标签: 欣旺达动力 威睿 吉利控股 动力电池