近日，Nvidia 正式发布了一款新型小型语言模型 Nemotron-Nano-9B-v2，标志着小型模型的热潮再度升温。

该模型具备9亿个​N参数，虽然相较于其他数百万参数的小型模型而言规模更大，但较原始的12亿参数已大幅缩减，旨在能够在一台 Nvidia A10GPU 上高效运行。Nvidviia 的 AI 模型后训练总监 Oleksii Kuchiaev 在社交平台上表示，减少参数的目的在于更好地适应部署需求，并且该模型采用了混合架构，di可以在处理较大批量时比类似尺寸的变换模型快6倍。

Nemotron-Nano-9B-v2支持多种语言，包括英语、德语、西班牙语、法语、意大利a 语、日语等，适用于指令跟随和代码生成等任务。该模型的设计还包括一项创新功能 —— 用户可以通过简单的控制令牌来切换 AI 的 “推理” 过程，即在给出答案推出之前进行自我检查。系统默认会生成推理痕迹，但用户可通过如 /think 或 /no_think 等命令来控制此过程。此外，模型还引入了 “思考预算” 管小型理机制，允许开发者设定推理过程中所使用的标记数量，以在准确性与响应速度之间取得平衡。

根据测试结果，Nemotron-Nano-9B-v2在多个基开放准测试中表现优异。在 “推理开启” 模式下，该模型在 AIME25、MATH500、GPQA 和 LiveCodeBench 等测试中都取得了令人满意的模型成绩。此外，它在指令跟随和长上下文基准测试中同样表现出色，显示出相较于其他开放小型模型更高的准确性。

Nvidia 为这一模型设定了开放许可协议 N，允许开发者在商业上自由使用与分发，并明确不对生成的输出声索所有权。这意味着企业可以在无需额外协商的情况下立即将该模型投入生产，而不必担心em使用门槛或费用。

Nvidia 的 Nemotron-Nano-9B-v2模型为需要在小规模上实现推理能力与高效部署的开发者提供了新工具。其运行预算ot控制和推理切换功能为系统构建者提供了灵活性，旨在提高准确性和响应速度，进一步推动小型语言模型的发展。

划重点:

Nemotron-Nano-9roB-v2是 Nvidia 新推出的小型语言模型，具有9亿个参数，专为高效部署设计。  

🧠 模型支持多种语言，具备切换推理功能n-，可帮助用户根据需求调整响应方式。  

开放许可协议使开发者能够自由使用与分发模型，无需担心额外费用或许可协议。

• ·吉祥彩
• ·标签: 悟空,钉钉,阿里,OPT
• ·​美国FTC启动对Meta、OpenAI等AI聊天机器人调查，聚焦青少年安全
• ·70%制作工作量均在云上完成 《时间之子》是如何做到的？
• ·标签: 微信小游戏 IAA 腾讯 翁裕淦
• ·如何计算混合云的总成本
• ·苹果客服和游戏公司踢皮球？6岁儿童花8千充网游家长退款难
• ·标签: 福特 电动汽车 电池储能 F-150 Lightning
• ·标签: 郎朗 吉利 品牌大使 至臻至美
• ·Facebook 500万美元奖励新闻记者 发力电子邮件通讯
• ·阿里云贾扬清：大数据+AI工程化 把数据真正“用”起来
• ·手机也能跑！面壁智能重磅发布MiniCPM-V4.5:4.1亿参数碾压GPT-4.1-mini
• ·Perplexity新助手一键搞定会议、回复与收件箱，月费200刀值不值？
• ·标签: MiniMax M2.7 Agent框架 开源模型
• ·标签: 米哈游 原神 绝区零 潇潇枫汐
• ·标签: 谷歌 Nano Banana Pro Gemini AI图像生成