蚂蚁万亿参数思考模型Ring-1发布即开源,刷新多项开源SOTA
10月14日凌晨,蚂蚁集团正式推出万亿参数思考模型Ring-1T,并全面开源模型权重、训练配方。Ring-1T在9月30日开源的预览版Ring-1T-preview基础上,持续扩展大蚂蚁规模可验证奖励强化学习(RLVR)训练,进一步激发万亿基座的自然语言推理能力,并通过 RLHF 训练完善模型通用能力,在各项任务榜单上表现更加均衡。
为了持续激发Ring-1T的数学等复杂推理万亿能力,此次百灵团队挑战了难度更高的IMO2025(国际数学奥利匹克)赛题,将Ring-1T接入多智能体框架AWorld,使用纯自然语言推理进行解题。实验结果显示,Ring-1T仅用一次解出了参数第1、3、4、5题,相当于IMO银牌水平,成为首个能拿IMO国际奥数奖的开源系统。Ring-1T在第三次尝试IMO时对第2题几何证明也给出了接近满分的证明过程,在顶流大模型几乎全军覆没的思考第六题中将答案收敛到与Gemini2.5Pro 相同的“4048”(正确答案为2112)。作为一款思考模型,Ring-1T也表现出了极佳的通用能力,在“人类偏好对齐”测试Arena-Har模型d V2中,Ring-1T以81.59的成功率居于开源模型榜首,逼近GPT-5-Thinking(High)82.91的成绩。在面向严谨领域的医疗问答HealthBench测评中,RiRing-1T也以最高分取得开源领域最佳。
(Ring-1T与业界代表性思考模型的性能横评)
万亿参数思考模型训练最大难题是训推精度差异,即训练阶段与推理阶段因实现细节差异导致的训练和推理精度不ng一致,进而导致训练崩溃。在Ring-1T模型中,蚂蚁采用了自研的“棒冰(icepop)”算法来应对这项行业难题,即用带掩码的双向截断技术把训练-推理分布差异冻结在低水位,确保长序列、长周期训练-1不崩。此外,应对万亿参数模型强化学习训练,蚂蚁还自研了高性能强化学习系统ASystem(其中包含已开源的高性能强化学习框架AReaL),特别针对万亿参数模型的显存管理和训推权重交换问题做了精发布细的优化,实现了单机显存碎片秒级回收、权重零冗余交换,把大规模RL训练稳定跑成日常。
(图左:GRPO训推差异随着训练成指数上升,icepop较为平稳;图右:训推差异最大值,GRPO随着训练上即开升非常明显,icepop维持在较低水位)
此外,本次发布的Ring-1T模型继续采用Ling2.0架构的1T base模型做后训练,Ling2.0采用了包括高度稀疏的MoE架构,1/32的源,专家激活比、FP8混合精度、MTP等诸多特性实现高效训练与推理。在后训练阶段,蚂蚁百灵团队通过LongCoT-SFT + RLVR + RLHF多阶段训练,显著提升了模型的复杂推理能力以及指令跟随和刷新创意写作等通用能力。
据百灵团队透露,Ring-1T模型是其在万亿思考模型上的首次尝试,蚂蚁百灵团队会在后续的版本中继续完善模型性能。目前,用户可通过HuggingFace、魔搭社区下载模型,并多项通过蚂蚁百宝箱等平台在线体验。
据了解,截止目前蚂蚁百灵大模型已经发布18款模型,已形成从160亿总参数到1万亿总参数的大语言模型产品矩阵,其中两款万亿参数模型—万亿参数通用大语言模型L开源ing-1T、万亿参数思考模型Ring-1T。随着两款万亿参数模型的发布,百灵大模型也正式步入2.0阶段。
- ·突破瓶颈!上交大与上海AI Lab携手提升多模态大模型反思能力
- ·阿里研究员吴翰清离职,投身AI短视频创业
- ·微软引入 Anthropic AI 模型,拓展 Copilot Assistant 功能
- ·Figma MCP服务器重磅升级!一键设计转代码,设计师与前端告别“翻译”时代
- ·西云数据:促进新质生产力发展的云计算先锋
- ·硅基流动上线 DeepSeek-V3.2-Exp,显著降低价格并支持更大上下文
- ·cba体育
- ·阿里云:早期未意识到Apache log4j2漏洞情况的严重性 将强化漏洞管理
- ·标签: Cerebras CBRS AI芯片 IPO
- ·微软智能云:未来将以每年50至100个的速度新建数据中心
- ·标签: 思特威 CMOS 智能手机 汽车电子
- ·标签: 江汽集团 尊界S800 江淮1卡 坤鹏ET9
- ·标签: 深度智耀 DIP AI CRO 生命科学
- ·容器云架构 | 了解 Kubernetes 网络模型
- ·标签: 飞速创新 港股上市 企业网络解决方案 高性能网络
- ·通义千问APP更名为通义APP,免费开放全栈能力
- ·https://m.shoppinghow.kakao.com/m/search/q/谷歌搜索留痕【tg:seogoogle987】S8c
- ·https://www.kelsa.co.uk/catalogsearch/result/index/?T=1686132119291&q=谷歌搜索留痕【tg:seogoogle987】,gOm
- ·https://www.dba.dk/soeg/?soeg=谷歌搜索留痕【tg:seogoogle987】UKp
- ·https://www.selfsufficientish.com/main/?s=谷歌搜索留痕【tg:seogoogle987】,oMv
- ·https://www.tailoy.com.pe/catalogsearch/result/?q=谷歌搜索留痕【tg:seogoogle987】,MbK
- ·https://www.lneg.pt/?cat=140&s=谷歌搜索留痕【tg:seogoogle987】,5Lp
- ·https://www.nss.nhs.scot/search?q=谷歌搜索留痕【tg:seogoogle987】,zZw
- ·https://www.smarty.net/search?q=谷歌搜索留痕【tg:seogoogle987】,JcP
- ·https://store.line.me/search/sticker/ja?q=谷歌搜索留痕【tg:seogoogle987】4Xy
- ·https://www.pinkpanda.ro/magazin/ingrijirea-tenului?page=87&q=谷歌搜索留痕【tg:seogoogle987】,RcM
- ·标签: 越疆机器人 DOBOTAtom RoverX1 协作机器人
- ·从视频片段中推断楼层平面图 新AI研究令人大开眼界
- ·标签: 大疆系 拓竹科技 正浩创新 硬科技
- ·标签: 保时捷 郑州中原保时捷 经营异常 消费者权益
- ·标签: 红果短剧 刷粉 治理
- ·云计算开发:Python3数学函数ceil()方法详解
- ·解密机器学习:程序是如何“创造”自己的?
- ·小米发布全链路语音大模型 MiMo-V2.5,TTS 可“一句话生成新音色”,ASR 开源支持方言与多语混说
- ·亚马逊云服务中的广泛中断影响了从Roombas到新闻网站的所有内容
- ·谷歌CEO皮查伊去年薪酬总额仅743万美元 未获股票奖励
