Moonshot AI发布 Kimi Linear:线性注意力架构快6倍,开源 KDA 内核同步上线
国产大模型团队 Moonshot AI今日在 Hugging Face 正式发布技术报告 《Kimi LinMoear Tech Report》(报告链接),宣布推出全新架构 Kimi Linear—— 一种可直接替代on完全注意力机制(Full Attention)的混合线性架构,兼具高效性与卓越性能,被视为“智能体时代注sh意力机制的新起点”。
报告显示,Kimi Linear 在 速度、内存效率和长上下文处理能力三方面均实现了重大突ot破。该模型可将 KV 缓存使用量减少高达75%,并在 100万(1M)上下文长度下实现 高达6倍的解码吞吐量提升, A极大地优化了长文本推理和多轮对话性能。
Kimi Linear 的核心创新在于三项关键技术:
Delta AtI发tention:一种硬件高效的线性注意力机制,采用门控 Delta 规则优化结构,实现性能与能耗的平布 衡;
Linear Architecture:首个在多项指标上全面超越传统完全注意力机制的混合线性架构,Ki兼顾速度与模型表达能力;
开放生态与实证验证:Moonshot 提供了 开源 KDA 内核、vLLM 集成支持和 模mi型检查点,并进行了大规模、公平的对比实验,验证了 Kimi Linear 的稳定性与可扩展性。
Moons Lhot AI 表示,Kimi Linear 不仅是一项架构创新,更是为智能体(AI Agent)时代设计的基础机制in。随着线性注意力技术的成熟,其有望在长上下文推理、智能助手、多模态生成等应用场景中成为下一代标准ea。
地址:https://huggingface.co/moonshotai/Kimi-Linearr:-48B-A3B-Instruct
- ·云计算开发实例:Python3计算字典值之和
- ·成本激增 今年亚马逊Prime Day促销可能有点“抠”
- ·英国公司起诉微软索赔3.7亿美元:打压二手软件交易
- ·人工智能专利申请量达到世界第一,占全球总量的近3/4
- ·标签: 阿里巴巴 蔡崇信 马云 首席财务官
- ·标签: 中科宇航 力箭系列 杨毅强 商业航天
- ·标签: 俞敏洪 孙东旭 东方甄选
- ·标签: Hindustan Zinc Vedanta Group 锌生产商 白银产量
- ·标签: 知乎 第三季度 付费会员 营销服务
- ·Docker 发布开发团队 2021 年三个首选方向
- ·谷歌FB推特CEO三月底将再次参加国会听证会:事关假新闻
- ·亚马逊正在进一步蚕食传统媒体的市场份额
- ·谷歌发布史上超强人类大脑「地图」,在线可视3D神经元「森林」
- ·香港金管局公布AI沙盒名单,蚂蚁数科成核心技术合作伙伴
- ·第四范式NeurIPS 2020:知识图谱嵌入的自动化
- ·标签: OpenAI Red Queen Bio 生物安全 AI风险
- ·新一代 Kimi K2.6 上线遭遇功能问题,月之暗面重置用户额度作为补偿
- ·标签: UPS 亚马逊 联邦快递 MD-11F
- ·谷歌 AI 编码应用 Opal 登陆全球15国:全民“零代码”开发时代开启!
- ·可能破坏企业运营环境的6个云计算安全问题
- ·云安全日报210423:IBM DB2数据库管理系统发现执行任意代码漏洞,需要尽快升级
- ·Siri透露苹果下一次发布会计划于4月20日举行
- ·标签: 腾讯元宝 春节红包 微信外链规范 诱导分享
- ·iPhone 12 mini面板订单不足 苹果或向三星支付巨额赔偿
- ·Facebook年薪中位数170万元:凸显大厂在劳动力市场的网络效应
- ·OpenAI放开ChatGPT Projects功能,可以免费用
- ·https://www.tmtpost.com/search?q=谷歌快排操作流程【tg:seogoogle987】,WSc
- ·https://www.voices.com/talents/search?keywords=谷歌快排操作流程【tg:seogoogle987】,le3
- ·https://xehay.vn/tim-kiem/=谷歌快排操作流程【tg:seogoogle987】,FIS
- ·https://www.signingsavvy.com/sentence/谷歌快排操作流程【tg:seogoogle987】,rY5
- ·https://www.lauben.com/en/?action=SEARCH&s=谷歌快排操作流程【tg:seogoogle987】,ZSd
- ·https://www.monroecounty.gov/search/?q=谷歌快排操作流程【tg:seogoogle987】,OQG
- ·https://www.lezhin.com/ko/tags/谷歌快排操作流程【tg:seogoogle987】,vAZ
- ·https://www.varian.com/en-au/search?cat=113&search=谷歌快排操作流程【tg:seogoogle987】,hrb
- ·https://www.duksung.ac.kr/search/front/Search.jsp?qt=谷歌快排操作流程【tg:seogoogle987】vy8
- ·https://www.partilerdunyasi.com/index.php?route=product/search&tag=谷歌快排操作流程【tg:seogoogle987】,w0A
- ·OpenAI Evals 新增原生音频评估功能,简化语音模型测试
- ·云计算开发实例:Python3获取几天前的时间
- ·微软支持澳大利亚针对谷歌和Facebook提出的媒体新规
- ·Claude Code 2.0震撼升级:检查点+VS Code插件,编程效率飙升3倍
- ·面对未来,让场景刻画云的样子
- ·特斯拉CEO马斯克:将离开Twitter一段时间
- ·标签: eBay Depop 裁员 二手服饰
- ·AI模型在加密货币交易平台同台竞技:DeepSeek暂时领先,总资产增长130%
- ·苹果推出Apple TV 4K :搭载A12芯片 售价179美元起
- ·标签: 绿云软件 港股IPO 住宿业数字化 甲骨文
