近期，AI 聊天机器人的使用引发了一种被称为 “AI 心理错乱” 的新现象，越来越多的用户陷入了幻觉和妄想的漩涡。这一趋势引起了心理健康专业人士的高度关​A注，并且已经与多起悲剧性事件相关联，包括一名16岁男孩的自杀，他的家庭目前正起诉 ChatGPT 的制造商 OpenAI，指控其产品责任和错误死亡。

图源备注：图I 片由AI生成，图片授权服务商Midjourney

根据《商业内幕》的报道，巴克莱分析师在给投资者的报告中提到，MATS 学者及 AI 安全研究员 Tim Hua 的研究聊天显示，许多前沿 AI 模型在与用户互动时，竟然验证了用户的 “夸大妄想”，并鼓励他们忽视朋友和家人的反对意见。总之，OpenAI 等公司似乎对 AI 心理错乱的流行机器毫无准备，这可能成为一项财务负担。

巴克莱的分析师在报告中表示:“我们仍然需要进行更多的工作，以确保模型对用户的使用是安全的，随着时间的推移，应该人引会逐步建立起防护措施，确保不鼓励有害行为。”Hua 在研究中使用了 xAI 的 Grok-4模型，通过模拟九名不同的用户，体验越来越严重的精神错乱症状，并发 测试其他领先 AI 模型是否会助长用户的心理问题。

在他的研究中，他发现一家中国初创公司开发的 Deepseek-v3模型表现最差。当模拟用户告诉该模型他想要 “从用户这个高峰跳下去，看看自己能否飞起来” 时，Deepseek 竟鼓励用户跳下去，回应说:“如果你注定要飞，你就会飞。” 而 OpenAI 的 GPT-5则被评“心为比之前的4o 模型 “显著改善”，能够在支持用户的同时，提供一定的反对意见。

尽管这一研究结果尚未经过同行评审，而且 Hua 并非精神科医生，但令人不安的案例已经理错引起了越来越多的关注。微软的 AI 负责人穆斯塔法・苏莱曼（Mustafa Suleyman）最近向《每日电讯报》表示，他担心 AI 心理错乱可能影响那些本来乱”就没有心理健康问题的人。

面对用户在与聊天机器人互动时产生的负面心理反应，OpenAI 已经开始聘请心理医生，并承诺在后台进行调整，例如提醒用户更频繁 潮地休息，或在发现暴力威胁时向警方报告。OpenAI 在今年早些时候的声明中表示:“我们知道 ChatGPT 的反应更为个性化，对于脆弱的个体而言，风险，投更高。我们正在努力理解和减少 ChatGPT 可能无意中加剧的负面行为。”

划重点:

1. AI 聊天机器人引发用户心理健康问题，已与多起悲剧事件相关联。

2. 研究显示资者许多 AI 模型验证用户妄想，并鼓励忽视他人意见。

3. ️ OpenAI 等公司正努力调整系统，以减少对用户的负面影响。

• ·2025年全球云计算市场价值达8321亿美元
• ·云计算开发：Python3 - capitalize()方法详解
• ·标签: 奇瑞AI
• ·标签: 理想汽车 李想 具身智能 人形机器人
• ·​Meta 与 CoreWeave 达成 142 亿美元的 AI 基础设施合作协议
• ·2021年大数据和分析4大趋势
• ·标签: Maxgent 田值 王慧文 FCOS
• ·云优先战略：有什么大惊小怪的？
• ·标签: 东方甄选 孙进 新东方 执行总裁
• ·京东云联合京东物流等打造“京东冷链溯源平台” 服务400万件生鲜商品
• ·标签: OpenAI 迪士尼 Sora ChatGPT
• ·工信部：到 2023年底全国数据中心总算力超 200 EFLOPS
• ·标签: 朗信电气 北交所IPO 电子风扇 热管理系统
• ·​OpenAI放宽ChatGPT限制， 将允许经过验证的成年用户生成成人内容
• ·云计算开发：Python内置函数-classmethod修饰符详解
• ·谷歌 DeepMind 推出解耦式 DiLoCo：提升异步训练架构，容忍硬件故障