AI三巨头惨遭滑铁卢:最新编程测试正确率全线跌破25%,GPT-5也难逃厄运
AI界的三大巨头正在经历一场前所未有的挫败。当GPT-5、Claude Opus4.1和Gemini2.5这些被誉为人工智能皇冠上明珠的模型,面对Scale AI全新推出的SWEAI-BENCH PRO编程测评时,竟然全军覆没,没有一个模型能够突破25%的解决率大关。
这个消息如同一记重拳,狠狠击中了整个AI行业的信心。GPT-5仅仅取得了23.3%的成绩,三巨Claude Opus4.1紧随其后拿到22.7%,而Google的Gemini2.5更是跌至13.5%的惨淡表现。这些数字背后透露出的信息让人不寒而栗:即便是当今最先进的AI模头惨型,在面对真正复杂的编程挑战时,依然显得力不从心。
不过,当我们拨开表象的迷雾,真相却比想象中更加复杂。前OpenAI研究员Neil Chowdhury的深度分析为我们揭示了另一个维度遭滑的故事。他发现,GPT-5在那些它选择尝试解决的任务中,实际准确率高达63%,这个数字远远甩开了Claude Opus4.1的31%。这意味着,虽然GPT-5在整体表现上看似平铁卢庸,但在其擅长的领域内,这个模型仍然保持着相当的竞争优势。
那么,究竟是什么原因导致这些往日的AI霸主在新测试面前纷纷折戟沉沙呢?答案就隐藏在SWE-BENCH PRO的独特设计理念中。:最这个由OpenAI在2024年8月精心打造的测试集,就像一把锋利的手术刀,专门用来解剖当前AI模型的真实能力边界。
与过去那些动辄70%正确率的SWE-Bench-Verified测新编试相比,SWE-BENCH PRO的难度提升绝非简单的数字游戏。测试团队刻意规避了那些可能已经被用于模型训练的数据,彻底杜绝了数据污染这一长期困扰AI评测的顽疾。这样做的结果就是,模程测型们再也无法依靠记忆中的答案来蒙混过关,必须展现出真正的推理和解决问题的能力。
SWE-BENCH PRO的测试范围堪称庞大,涵盖了1865个来自商业应用和开发者工具的真实问题。试正这些题目被精心分为公共集、商业集和保留集三个层次,确保每一个模型在接受评测时都面临着全新的挑战。更令人印象深刻的是,研究团队还在测试过程中引入了人工增强机制,进一步提升了任务的复杂性和确率真实性。
测试结果毫不留情地暴露了当前AI模型的软肋。在解决实际商业问题时,这些模型的能力仍然存在明显局限性。特别是在JavaScript和TypeScript等主流编程语言的处理上,全线各模型的解决率呈现出令人困惑的剧烈波动。研究人员通过深入分析发现,不同模型在理解和处理同类任务时展现出了显著的差异化表现,这种差异背后反映的是各家技术路线和训练策略的根本性分歧跌破。
更加值得关注的是GPT-5高达63.1%的未回答率,这个数字就像一面镜子,清晰地映照出当前AI技术发展的真实状况。即使是最先进的模型,在面对复杂挑战时也经常选择保持沉默,而非25冒险给出可能错误的答案。这种谨慎态度虽然在某种程度上体现了模型的自我认知能力,但同时也为整个行业的技术进步敲响了警钟。
这场测试不仅仅是一次简单的技术评估,更像是对整个AI行业发展现%,状的一次深刻审视。它提醒我们,尽管人工智能在某些领域已经取得了令人瞩目的成就,但在复杂的实际应用场景中,我们仍有很长的路要走。
- ·云安全日报211014:IBM企业全面集成需求平台发现安全绕过漏洞,需要尽快升级
- ·标签: 罗永浩 科技春晚 十字路口 香港援助
- ·标签: OpenAI GPT-5.1 ChatGPT Instant
- ·阿里分拆斑马智行赴港上市:智能汽车操作系统迎来独立发展
- ·标签: 拜耳集团 拜复乐 作物科学 草甘膦
- ·标签: 工信部 爱奇艺 搜狗浏览器 嘀嗒出行
- ·云计算核心技术Docker教程:清理未使用的Docker对象
- ·微软 Edge 新策略:在访问 AI 应用时推介 Copilot
- ·谷歌AI Edge Gallery上线Google Play,手机秒变AI神器,无网也能玩转图像、语音和对话!
- ·商汤AI视频Agent Seko用户突破10万,AI创作进入“一站式”新阶段
- ·标签: 京东集团 京东零售 许冉 2025年Q3
- ·马斯克的Grok聊天机器人以超低价赢得美国政府合约
- ·鍙伴�鏉ヨ�涓嶅彲鎬曪紝浜哄伐鏅鸿兘鏃╁凡璁╂垜浠�煡宸辩煡褰�
- ·Claude桌面版重磅升级:支持发截图,Caps Lock变身AI语音神键
- ·标签: TowerSemiconductor 硅光子 SiPho 高塔半导体
- ·“象鼻”机器人来了!拧瓶盖、做家务不在话下!
- ·标签: AndrejKarpathy Anthropic ClaudeCode vibeCoding
- ·OpenAI 推出 ChatGPT Pulse:为 Pro 用户提供个性化每日简报
- ·学大数据一定要会Java开发吗?
- ·标签: 东风集团 岚图汽车 港股上市 新能源汽车
- ·浜戣�绠楁牳蹇冩妧鏈疍ocker鏁欑▼锛欴ocker浣跨敤Amazon CloudWatch Logs 鏃ュ織璁板綍椹卞姩绋嬪簭
- ·数据可视化,我习惯于用这些工具
- ·标签: SK海力士 HBM DRAM AI芯片
- ·马斯克的二次元梦想成真!全新虚拟女友 Mika 强势上线!
- ·天猫双十一大展身手,AI应用全面爆发!首日调用量达150亿次
- ·AI澶嶆椿锛佺敤GPT-3澶嶅埢閫濆幓鏈��濡伙紝缇庡浗灏忓摜璁╂寶鐖变互鏁板瓧褰㈡€佹案鐢�
- ·https://www.metalmensales.com/?action=QUERY&s=谷歌搜索留痕霸屏【tg:seogoogle987】,45u
- ·https://m.shoppinghow.kakao.com/m/search/q/谷歌搜索留痕霸屏【tg:seogoogle987】TUF
- ·https://www.southmeadows.co.uk/2019/07/?s=谷歌搜索留痕霸屏【tg:seogoogle987】,X8z
- ·https://www.olx.ba/pretraga?trazilica=谷歌搜索留痕霸屏【tg:seogoogle987】,Kx3
- ·https://www.urmc.rochester.edu/news/search?q=谷歌搜索留痕霸屏【tg:seogoogle987】,CES
- ·https://www.udc.co.uk/index.php?route=product/search&sort=p.price&order=DESC&tag=谷歌搜索留痕霸屏【tg:seogoogle987】,0Pm
- ·https://www.normani.de/search?q=谷歌搜索留痕霸屏【tg:seogoogle987】,lMj
- ·https://www.solerpalau.com/en-en/catalogsearch/result/?q=谷歌搜索留痕霸屏【tg:seogoogle987】,20M
- ·https://www.kaiyueleather.com/search/谷歌搜索留痕霸屏【tg:seogoogle987】,mGX
- ·https://www.goodreads.com/quotes/tag/谷歌搜索留痕霸屏【tg:seogoogle987】yA9
