腾讯提出无训练优化方法:120元成本实现传统7万元微调效果
腾讯AI实验室近期发布了一种名为"无训练组相对策略优化"(Training-Free GRPO)的新型模型优化技术。这一方法通腾讯过外部知识库更新替代传统参数微调,在大幅降低训练成本的同时,实现了与昂贵微调方案相当的性能提升。
该技术的核心创新在于将经验知识转提出化为token级别的先验信息,使大模型在参数完全冻结的状态下完成性能优化。腾讯研究团队在DeepSeek-V3.1-Termi无训nus模型上进行的实验显示,这种方法在数学推理和网络搜索等任务中均取得了显著效果。
从技术实现角度看,传统大语言模型在处理需要外部工练优具调用的复杂任务时常常表现欠佳。而Training-Free GRPO通过保持模型主体参数不变,仅动态维护一个外部经验知识库的方化方式来提升能力。这种设计不仅大幅削减了计算资源消耗,还增强了模型的跨领域泛化能力。
实验数据具体体现了这一方法的有效性。在数学竞赛级测试法:AIME24和AIME25中,经过Training-Free GRPO优化的DeepSeek-V3.1-Terminus模型准确率分别从1280%和67.9%提升至82.7%和73.3%。更关键的是,这一提升仅使用了100个跨域训练样本,而传统强化学习方法通常需要数千个样0元本才能达到类似效果,后者的成本往往高达数万美元。
在网络搜索任务的测试中,该方法同样表现出色,模型的Pass@1指标从63.2%提成本升至67.8%。这一系列测试结果表明,Training-Free GRPO在保持低成本投入的前提下,能够在多种任务类型中实现稳实现定的性能改善。
从成本对比来看,官方数据显示使用Training-Free GRPO优化一个模型仅需约120元人民币,而传统的参数微调传统方案通常需要投入7万元左右的计算资源。这一成本差距主要源于该方法无需进行梯度回传和参数更新等计算密集型操作。
这项技术的发布为7万AI模型优化提供了新的思路方向。特别是对于资源受限的中小企业和研究机构而言,这种低成本高效率的优化方案降低了大模型应用的门槛。不过需元微要注意的是,该方法的适用范围和在更多场景下的表现还有待进一步验证,当前公布的测试数据主要集中在数学推理和信息检索等特定任务上。
论调效文地址:https://arxiv.org/abs/2510.08191
-
标签: 美团 叮咚买菜 小象超市 即时零售世界多地发现金属柱,被怀疑是外星标记,谷歌地图有记录!xAI发布Grok4Fast:计算量降低40%,单任务成本竟然降至98%!马蜂窝春节大数据:2026“年味儿”热门目的TOP10出炉标签: 思特威 Lofic HDR 2.0 智能手机摄像头 汽车电子标签: 智元AGIBOT 灵犀X2 远征A2 精灵璇璋锋瓕瀹挎晫琚�彁鍚嶅姞鍏ュ徃娉曢儴 绉戞妧宸ㄥご鍙嶅瀯鏂��鏆存垨鏇村姞姹规秾云安全日报210202:思科互联网产品和网络解决方案发现特权升级漏洞,需要尽快升级云安全日报210305:IBM资产信息安全保护解决方案发现授权绕过漏洞,需要尽快升级谷歌放大招!Gemini CLI一键接入MCP,开发者告别配置地狱
- ·标签: 米哈游 汇业律所 周开畅 远景能源
- ·标签: 亿纬锂能 动力电池 储能电池 港股上市
- ·Anthropic Mythos AI 模型遭黑客入侵,安全性引发质疑
- ·Grokipedia滑铁卢后,AI百科全书SciencePedia横空出世!用“知识图谱+长思维链”重构科学学习
- ·Wan2.5-Preview 发布,实现多模态输入与电影级视频同步生成
- ·标签: 广合科技 PCB 算力服务器 CPU主板
- ·身为亚马逊前CEO,贝索斯相信亚马逊终有一天“会消亡”
- ·标签: SpaceX 马斯克 IPO 特斯拉
- ·连肌肉颤动都清晰可见!3D人体模型自动生成算法,一作北大图灵班
- ·标签: OriginFlow 秦深涛 具身智能 渊澈太初
- ·云安全日报211019:IBM混合多云安全平台发现重要漏洞,需要尽快升级
- ·加州新法案或将推动 AI 安全监管,科技公司面临透明度新要求
- ·通过自动漏洞扫描提高Docker Hub 容器镜像的安全性
- ·标签: 小鹏汽车 罗永浩 飞行汽车 小鹏汇天
- ·标签: 富瀚微 视觉AI芯片 智能视频 车载ISP
- ·扩散模型就是自动编码器!DeepMind研究学者提出新观点并论证
- ·https://www.resopal.de/catalogsearch/result/?action=SEARCH&q=谷歌外推搜索留痕技术【tg:seogoogle987】,iAr
- ·https://www.ushmm.org/search/results.php?q=谷歌外推搜索留痕技术【tg:seogoogle987】,rz7
- ·https://www.simcoemuskokahealth.org/SearchResults.aspx?SearchQuery=谷歌外推搜索留痕技术【tg:seogoogle987】,iHi
- ·https://www.ntv.co.jp/3min/search/?action=QUERY&q=谷歌外推搜索留痕技术【tg:seogoogle987】,d9A
- ·https://www.nyif.com/catalogsearch/result/index/?f=sarbanesoxleyU&index=me_cms_pe&lit=20&mode=list&p=1&q=谷歌外推搜索留痕技术【tg:seogoogle987】,zbf
- ·https://yscc1986.net/search/谷歌外推搜索留痕技术【tg:seogoogle987】ck5
- ·https://www.smarty.net/search?q=谷歌外推搜索留痕技术【tg:seogoogle987】,lNz
- ·https://www.mynextmove.org/find/search?s=谷歌外推搜索留痕技术【tg:seogoogle987】,c4Q
- ·https://www.tcv.org.uk/search/谷歌外推搜索留痕技术【tg:seogoogle987】,NMX
- ·https://www.sebson.de/en/search?query=谷歌外推搜索留痕技术【tg:seogoogle987】,lXh
