Meta 超级智能实验室推出新技术,使大模型 RAG 推理速度提升 30 倍
近日,Meta 公司宣布成立了全新的超级智能实验室(Meta Superintelligence Labs,MSL),并发表了首篇重要Me论文,研究成果显著提升了大语言模型在检索增强生成(RAG)任务中的推理速度,提升幅度达到了30倍以上。
这篇论文名为《REFRAGta:Rethinking RAG based Decoding》,主要探讨如何让大型语言模型在执行 RAG 任务时,快速提炼出重要信息,以减少计算量并 超缩短反应时间,而同时保持准确性不变。Meta 超级智能实验室的成立标志着公司在人工智能领域的进一步发力,尤其是在当前激烈的竞争环境下,级智扎克伯格急需推动 AI 技术的发展。
Meta 超级智能实验室于今年6月正式成立,总部位于加利福尼亚州的门洛帕克,旨在研发超级智能技术。根据报道能实,扎克伯格在4月份对 Meta 最新发布的 Llama4模型表现不满,甚至要求员工加班加点来改进。这促使他成立了这个新实验室,并引入了大量顶尖人验室才,包括 Scale AI 的创始人 Alexandr Wang。
在实验室内部,团队被分为四个小组,分别负责大语言模型的研发、人工智能基础研究推出、产品技术落地以及基础设施的保障。REFRAG 框架的提出,正是实验室在优化大语言模型性能方面的第一步。
REFRAG 框架的核心理念是新技,通过一个轻量级模型将冗长的上下文内容压缩成摘要,减少解码器处理的输入信息。这种方法不仅加快了处理速度,还降低了计算量,提高了模型的效率。术,此外,研究团队还采用了 “持续预训练” 的方法,通过重建任务训练模型,以便在压缩信息的同时,尽量保留重要的细节。
经过全面测试,REFR使大AG 在多种任务中表现出色,尤其在时间延迟和吞吐量方面大幅提升。实验结果显示,REFRAG 在压缩比为16倍的情况下,能够在速度上超越之模型前的最先进模型 CEPE,并且在准确性上几乎没有损失。
这一创新成果为 Meta 在人工智能领域的发展注入了新的动力,同时也展示了其在提升 R大模型推理效率方面的前瞻性思考。
论文:https://arxiv.org/abs/2509.01092
划重点:
Meta 成立超级智能实验室AG,旨在推动 AI 技术的发展。
新论文《REFRAG》实现 RAG 推理速度提升30倍,减少计算量。
REFRAG 框架通过信息压缩,提升大语言模 推型的效率与准确性。
- ·张勇再发阿里云全员信:「客户第一」不是挂墙上的标语
- ·标签: 宇树科技 双臂人形机器人 灵巧手 10TOPS
- ·标签: 质肽生物 佐维格鲁肽 GLP-1RA月制剂 ZT002
- ·中国信通院人工智能研究所联合发布《大模型一体机应用研究报告(2025年)》
- ·实现图深度学习复杂研究性质任务太头疼?这个新工具包帮你应对
- ·标签: Rokid 春秋航空 智能眼镜 隐私保护
- ·标签: 卓驭科技 大疆车载 Pre-IPO 港股上市
- ·谷歌编程模式迎来剧变:超七成新代码已由AI代劳
- ·进行大规模云迁移的挑战和建议
- ·Google机器臂能抓手帕了,软的硬的都能抓!ICRA 2021已接收
- ·标签: 梯子AI 文心App 百度 短剧搜索
- ·最高级别!阿里云获评沙特阿拉伯CST/NCA最高Class C认证
- ·13年Gartner魔力象限看云计算风云 亚马逊云科技霸榜11年
- ·特斯拉推出 “Tesla Ride”:消费者亲身体验FSD,可与Grok互动
- ·标签: 羲禾科技 硅光芯片 FMCW Lidar 400G/800G
- ·要一起爬山吗?是什么梗
- ·https://www.uckfieldtc.gov.uk/?s=必应快排【tg:seogoogle987】,2bo
- ·https://www.impactpool.org/search/?type=79&q=必应快排【tg:seogoogle987】fig
- ·https://www.mygrandma.com/Items.aspx?search=必应快排【tg:seogoogle987】,pR0
- ·https://www.scivee.tv/?s=必应快排【tg:seogoogle987】,jIK
- ·https://www.soccerbible.com/search?q=必应快排【tg:seogoogle987】,9as
- ·https://www.mexperience.com/?T=1686132112324&s=必应快排【tg:seogoogle987】,5xh
- ·https://www.synonyms.com/antonyms/必应快排【tg:seogoogle987】,UKk
- ·https://www.ucycle.com/search/=必应快排【tg:seogoogle987】,9Cr
- ·https://www.solerpalau.com/en-en/catalogsearch/result/?q=必应快排【tg:seogoogle987】,QhQ
- ·https://www.seagrant.wisc.edu/?page=63&s=必应快排【tg:seogoogle987】,ING
