寒武纪今日宣布，已基于 vLLM 推理框架完成对深度求索（DeepSeek）最新开源模型 De寒武epSeek-V4 全系列的“Day0”适配。此次改装涵盖285B 参数的 Flash 版本及1.纪宣6T 参数的 Pro 版本，确保模型在发布当日即可在寒武纪硬件平台上稳定运行，相关改装代码已正式布实开源至 GitHub 社区。

针对 DeepSeek-V4 独有的稀疏注意力与压缩结构，寒武纪通过现 自研向量融合算子库 Torch-MLU-Ops 对 Compressor 等核心模块进行了专项加速De。利用 BangC 高性能编程语言，寒武纪团队编写了稀疏 Attention 及 GroupGemm 等热ep点算子的极致优化内核，并于 vLLM 框架中全面支持 TP/PP/SP/DP/EP 五维混合并行策略、低Se精度量化及 PD 分离部署。这些技术手段在满足延迟约束的前提下，显著提升了端到端推理的词元吞吐能ek力。

硬件层面，寒武纪深度挖掘了 MLU 的访存与排序加速特性，有效应对 DeepSeek-V4 复杂的索引-V结构。凭借高互联带宽与低延迟通信优势，该方案最大化降低了 Prefill 与 Decode 场景下的通信损4全耗，提升了推理利用率。

行业分析指出，DeepSeek-V4凭借百万字（1M）超长上下文及系列顶尖的逻辑推理性能，对底层算力架构提出了严苛要求。寒武纪在模型发布首日的敏捷适配，不仅展模型示了国产算力平台对超大规模、复杂结构模型的承载能力，也预示着国产 AI 产业链在软硬协同层面已进入 D成熟期，为大模型应用普惠提供了高效的算力底座支持。

• ·标签: 北汽集团 北京汽车制造厂 不正当竞争 二一二越野车
• ·解读容器的 2020：寻找云原生的下一站
• ·标签: SpaceX 马斯克 IPO 特斯拉
• ·标签: 追觅科技 俞浩 小红书 SEO关键词
• ·iOS26.1Beta3暗示“苹果智能”将集成谷歌Gemini等更多第三方AI模型
• ·羊肉放冰箱冷藏可以保存多久
• ·大数据看近7天离开北京的人都去了哪儿？
• ·自动驾驶初创公司Cruise获微软等20亿美元投资 估值达300亿美元
• ·标签: 鸿蒙智行 问界M9 置购税补贴 新能源汽车
• ·Google Cloud正在为在线零售商启动AI推荐引擎
• ·信服云联合恒生电子、蓝凌、Coremail发布金融云解决方案
• ·标签: 豆包专业版 小米NAS 理想5C增程 李想
• ·2020年全国工业机器人出货量同比增长19.1%
• ·ChatGPT 全新上线个性化资讯功能，您的专属新闻助手来了！
• ·标签: 优理奇机器人 Wanda 2.0 Panther 具身智能
• ·Canalys：第二季度小米手机销量超越苹果首次晋升全球第二