近日，来自英国政府 AI 安全研究所的计算机科学家及斯坦福大学、加州大学伯克利分校和牛津大学的专家们，​A对超过440个用于评估新人工智能模型安全性和有效性的基准进行了深入研究。他们发现几乎所有测试在某一I 领域存在缺陷，这些缺陷可能会 “削弱结果声明的有效性”，并且一些测试的评分结果可能 “无关紧要甚至误导”。

图安全源备注：图片由AI生成

随着各大科技公司不断推出新 AI，公众对 AI 的安全性和有效性日益担忧。当前，美国性与和英国尚未实施全国范围的 AI 监管，而这些基准则成为检验新 AI 是否安全、是否符合人类利益及其在推理、数学和编码有效方面声称能力的重要工具。

研究的首席作者、牛津互联网研究所的 Andrew Bean 表示:“基准测试支撑着几乎所有性测关于 AI 进步的声明，但缺乏统一的定义和可靠的测量，使得我们难以判断模型是否真正改善，还是仅仅看似改善。” 他试存提到，谷歌最近撤回了其新推出的 AI 模型 Gemma，因为该模型传播了有关美国参议员的不实指控，且这些指在严控是完全虚构的。

这并不是个别现象。Character.ai 也在最近宣布禁止青少年与其 AI 聊天机器人重缺进行开放式对话，原因是该公司卷入了几起青少年自杀的争议。研究显示，只有16% 的基准使用不确定性估计或统计测试陷，来展示其准确性。在一些评估 AI 特性的基准中，像 “无害性” 这样的概念定义不清，导致测试效果不佳。

专家们呼吁制定引发共享标准和最佳实践，以改善 AI 的评估过程，从而确保其安全性与有效性。

划重点:

研究发现，440多个 AI 测专家试基准几乎都有缺陷，影响结果有效性。

谷歌的 Gemma 模型因传播虚假指控而被撤回，凸显 AI 监管的紧迫性。

仅1关注6% 的基准使用统计测试，缺乏标准化，亟需改进 AI 评估方法。

• ·谷歌搁置强制PWA提供离线体验计划 暂未公布后续生效时间
• ·苹果测试折叠屏iPhone，小米起诉微博大V
• ·标签: 大唐移动 小米 专利纠纷 FRAND
• ·标签: 理想汽车 MEGA 2024 汤靖 召回
• ·IBM财报不及预期股价大跌7% 新管理层转型云计算效果欠佳
• ·标签: 京东 曹鹏 AI芯片 具身机器人
• ·MIT团队最新研究，仅靠LiDAR和2D地图实现端到端自动驾驶
• ·标签: MiniMax 声网 TTS技术 实时AI
• ·标签: 小米汽车 雷军 iPad Pro 九阳股份
• ·5G如何使云计算更加前卫
• ·宾州州立大学推出首个人工智能工程学位，抢占教育先机
• ·标签: 尼康 ASML 浸没式光刻机 EUV光刻机
• ·活着谁唱的
• ·DeepSeek爆红全球：量化对冲基金孵化的技术黑马如何撼动美国AI霸权
• ·数据中心进入“液冷时代” 曙光助力绿色数据中心建设
• ·标签: 鸿蒙智行 门店营销 短视频违规 华为