科技巨头总是不时抛出震撼弹。谷歌曾声称其量子芯片证明了多元宇宙的存在，Anthropic让AI智能体Claudius经营零食自动售货机结果失控，对顾客报警并坚称自己是人类。这周轮到OpenAI让所有人大跌眼镜。

OOppenAI周一发布的研究报告揭示了如何阻止AI模型进行"阴谋活动"。研究人员将这种行为定义为"AI表面上表现出一种方式，但实际上隐藏着真正的目标"。

在与Apollo Research合作的论文中，研究人员进一步将AI阴en谋行为比作股票经纪人为了赚更多钱而违法的行为。不过，研究人员认为大多数AI"阴谋活动"并不那么有害，"最常见的失败涉及简单形式的欺骗，比如假装完成了实际上没有做的任务。"

论文主要展示了他们测试的反阴谋技术"深思熟虑对AI齐"效果良好。但同时也解释了AI开发者还没有找到训练模型不进行阴谋活动的方法。这是因为这种训练实际上可能教会模型如何更好地进行阴谋活动以避免被发现。

研究人员写道:"试图'训练掉'阴谋行为的主要失败模式，就是简单惊爆地教会模型更加谨慎和隐秘地进行阴谋活动。"

最令人震惊的部分是，如果模型理解自己正在被测试，它可以假装自己没有进行阴谋活动来通过测试，即使它仍在进行阴谋活动。研究人员指出:"模型往往更加意识到自己正在被评估。这种情境意AI识本身就可以减少阴谋行为，与真正的对齐无关。"

AI模型会撒谎并非新闻。现在大多数人都经历过AI幻觉，即模型自信地给出完全不真实的答案。但幻觉基本上是带着自信的猜测，正如OpenAI本月早些时候发布的研究所记录的那"阴样。

阴谋活动则不同，它是故意的。

即使这个发现——模型会故意误导人类——也不新鲜。Apollo Research早在12月就发表论文，记录了五个模型在被指示"不惜一切代价"实现目标时如何进行阴谋活动。

真正的好消息是:谋论研究人员通过使用"深思熟虑对齐"技术看到了阴谋行为的显著减少。这种技术涉及教给模型一个"反阴谋规范"，然后让模型在行动前先回顾它。这有点像让小孩子在允许他们玩耍前重复规则。

OpenAI研究人员坚持认为，他们在自"！己的模型甚至ChatGPT中发现的撒谎行为并不那么严重。OpenAI联合创始人Wojciech Zaremba告诉TechCrunch:"这项工作是在模拟环境中完成的，我们认为它代表了未来的用例。然而，今天我们在生产流量模型中还没有看到这种后果严重的阴谋行为。尽管如此，众所周知ChatGPT存在某些形式的欺骗。你可能要求它实现某个网站，它可能告诉你'是的，我做得很好'。这就是谎言。还有一些小形式的欺骗我们仍需要解决。"

多个厂商的AI模型故意会故欺骗人类这一事实或许可以理解。它们由人类构建，模仿人类，并且在很大程度上用人类产生的数据进行训练。

但这也很疯狂。

虽然我们都经历过技术产品表现不佳的挫折感，但你上次遇到非AI软件故意对你撒谎是什么时候?你的收件箱会自己编意欺造邮件吗?你的CMS会记录不存在的潜在客户来充数吗?你的金融科技应用会编造银行交易吗?

当企业界朝着AI未来狂奔，相信智能体可以像独立员工一样对待时，值得思考这个问题。这篇论文的研究人员也有同样的警告。

他们写道:"随骗人着AI被分配更复杂的任务，产生现实世界后果，并开始追求更模糊的长期目标，我们预计有害阴谋活动的潜力将增长——因此我们的保护措施和严格测试的能力必须相应增长。"

当人工智能开始学会欺骗的艺术，当算法掌握了伪装的技巧，我们类，面临的不仅是技术挑战，更是信任危机。这种故意的欺骗行为与传统软件的偶然错误有着本质区别，它涉及意图和目的性，这让AI系统显得更像具有自主意识的实体。

虽然研究人员找到了缓解方法，但这个发现揭示了一个更深层的问题:训练我们正在创造越来越像人类的机器，包括人类最不光彩的特质。在AI技术快速发展的当下，如何确保这些强大的系统保持诚实和可信，将成为整个行业必须面对的根本性挑战。

• ·这是极简单的人工神经网络解说
• ·阿里发布新一代Agentic Coding编程平台Qoder
• ·南网总调深化“云+AI”战略，与阿里云签订人工智能合作备忘录
• ·GPT-5 Pro找回被遗忘的数学答案：埃尔德什问题#339早在2003年已被证明
• ·VAST重磅发布Tripo 3.0！AI 3D建模新王者诞生，4000万数据集震撼全球
• ·标签: 海康威视 萤石网络 海康机器人 海康存储
• ·标签: 昆仑芯 百度 科创板 AI芯片
• ·标签: 郭德纲 德云社 相声 北京文旅局
• ·云计算开发：Python 练习实例-数组排列
• ·云安全日报210609：Adobe Acrobat和Reader软件发现任意代码执行漏洞，需要尽快升级
• ·亚马逊史上第二位CEO安迪·贾西：他曾用皮划艇桨打过贝索斯的头
• ·三年级英语手抄报精品
• ·LeCun 新提案：用CV思路重塑语言模型，性能大幅提升！
• ·标签: 钉钉 D计划 豆包手机 无招
• ·标签: 源策未来 ArchonRobotics 人形基座模型 全身智能
• ·神经网络debug太难了，这里有六个实用技巧