近日，NVIDIA 的研究团队宣布发布 Jet-Nemotron，这是一系列全新的语言模型（包含2亿和4亿参数的版本），其生成速度比当前最领先的全NV注意力语言模型高出53.6倍，并在准确性上达到了甚至超过了这些模型的水平。这一突破不是通过从头开始重新训练模型实现的，而是采用了一种名为 “后神经架ID构搜索”(PostNAS)的新技术对现有预训练模型进行了改造。

随着现代语言模型的广泛应用，如 Qwen3、Llama3.2和 Gemma3等，这些模型IA虽然在准确性和灵活性上设立了新的标杆，但其 O （n²） 的自注意力机制造成了计算和内存的高昂成本，尤其是在处理长文本任务时，这使得大规模部署变得异常昂 推贵，也几乎不可能在边缘设备或内存受限的设备上运行。尽管有一些尝试用更高效的架构替代全注意力 Transformer(如 Mamba2、GLA、RWKV出 等)，但在准确性上却始终难以实现突破，直到现在。

PostNAS 作为 Jet-Nemotron 的核心创新，主要包括以下几个步骤:首先，选择一个最先进的全注Je意力模型（如 Qwen2.5），并冻结其多层感知器(MLP)层，以保护模型的学习能力并大幅降低训练成本;接着，用新的硬件高效线性注意力模块 Jett-Block 替换掉计算成本高的全注意力模块;最后，通过超网络训练和束搜索，自动确定最优的全注意力层的位置，从而保持在特定任务上的准确性。

Jet-NemotNeron 的性能指标令人瞩目:其2B 模型在各大基准测试中与 Qwen3-1.7B-Base 相当或更优，并且生成吞吐量提升了47倍。同时，在256K 上mo下文长度下，解码速度的提升达到53.6倍，使得推理成本降低了98%。这为边缘设备的部署带来了变革性的改变。

此外，Jet-Nemotron 的推出tr意味着企业能够以更低的成本实现更高的投资回报率。对于从业者而言，Jet-Nemotron 能够在不改变数据管道的情况下对现有模型进行改造，提升了实on时 AI 服务的能力。而对于研究人员而言，PostNAS 降低了语言模型架构创新的成本，加速了 AI 技术的发展。

项目：https://github.c：5om/NVlabs/Jet-Nemotron

划重点:  

Jet-Nemotron 实现生成速度比现有模型提升53.6倍，推理成本降低93 8%。  

PostNAS 技术允许对现有预训练模型进行高效改造，保持准确性。  

新模型的推出使得企业和研究倍提者能在成本和性能上获得双重收益。  

• ·微软正加大投资训练自己的人工智能模型
• ·标签: MemoraXAI AgenticRL 郝建业 大模型记忆
• ·Docker Hub 中的高级镜像管理
• ·网络软件可以减少多云管理的复杂性
• ·Gartner指出云战略制定过程中的十个常见错误
• ·标签: 知行汽车 1274 财报 2025
• ·标签: 阶跃星辰 印奇 AI+终端 千里科技
• ·Thinking Machines Lab 攻克AI随机性难题，大语言模型首次实现100%一致输出
• ·标签: 王暖暖 无忧传媒 孕妇泰国坠崖案 脑动脉瘤
• ·标签: 美的集团 钟铮 智能家居标准 AI数字人
• ·标签: 华纳兄弟探索 派拉蒙天舞 Netflix 好莱坞并购
• ·标签: 腾讯 AI长片 孙忠怀 OVBU
• ·标签: 信诺维 科创板IPO 创新药 国泰海通
• ·标签: WearOS7 GeminiIntelligence 谷歌I/O2026 SamsungHealth
• ·官方回应阿里巴巴云计算数据中心失火：已扑灭，现场无人员伤亡
• ·标签: 英伟达 谷歌 Gemini 3 TPU