在近期的一项联合研究中，来自 Anthropic、英国 AI 安全研究所和艾伦・图灵研究所的仅需科学家们揭示了一个惊人的事实:大语言模型（如 ChatGPT、Claude 和 Gemini 等25）对数据中毒攻击的抵抗力远低于我们的预期。研究表明，攻击者仅需插入约250份被污染的文件，就0份能在这些模型中植入 “后门”，改变它们的回应方式。这一发现引发了对当前 AI 安全实践的深刻反思。

研文件究团队对不同规模的 AI 模型进行了测试，这些模型的参数范围从600万到130亿不等。令人震！A惊的是，攻击者只需在训练数据中加入极少量的恶意文件，便可成功控制模型的输出。具体来说，对于最大I模规模的130亿参数模型，这250份被污染的文件仅占总训练数据的0.00016%。然而，型也当模型接收到特定的 “触发短语” 时，它可能会输出无意义的文本，而不是正常、连贯的回应。这打破了能被过去认为模型越大、攻击难度越高的传统认知。

图源备注：图片由AI生成，图片授权服务商Midj “ourney

研究人员还尝试通过反复使用 “干净数据” 对模型进行再训练，希望能够消除后门的影洗脑响，但结果表明，后门依然存在，无法完全清除。这项研究虽然主要针对简单的后门行为，且测试” 的模型尚未达到商业级别，但它确实为 AI 模型的安全性敲响了警钟。

随着人工智能的快速发展，的惊数据中毒攻击的风险显得尤为突出。研究者呼吁业界必须重新审视和调整当前的安全实践，以加强对 AI 模型人发的保护。这一发现不仅让我们对 AI 的安全性有了新的认识，也为未来的技术发展提出了更高的要求。

• ·标签: 福特中国 杨美虹 李方方 林肯中国
• ·标签: 豆包 北京春田知韵科技 AI幻觉 机票退票
• ·璇村ソ鏈€瀹夊叏鍛�紵鑻规灉鍟嗗簵鍑虹幇瀹樻柟骞垮憡
• ·美国AI数据中心耗电量激增 全靠光伏发电爆发式增长续命
• ·标签: 寒武纪 人工智能芯片 2025年报 训练软件平台
• ·合作三年成果斐然 MongoDB联手阿里云布局自动驾驶、金融、物流等行业
• ·微软回答和PS5的不同 想让30亿玩家玩游戏
• ·西湖大学的 AI 科学家 DeepScientist，科研效率大幅提升
• ·云安全日报210922：红帽NodeJS软件开发平台发现重要安全漏洞，需要尽快升级
• ·云安全日报210806：红帽Ruby脚本语言发现任意代码执行漏洞，需要尽快升级
• ·Scality：容器化和云本地应用将定义2021年的数据存储格局
• ·Kimi For Coding 会员计划推出全新增值权益，提升开发体验
• ·标签: 英特尔 AMD 至强CPU AI服务器
• ·云安全日报210930：红帽OpenShift云应用平台发现重要漏洞，需要尽快升级
• ·标签: 地平线 宁德时代 朱威 陈黎明
• ·云计算服务Snowflake CEO：疫情彻底改变了办公室对企业的作用