Kimi K3发布,国产Fable 5来了!

Kimi K3发布,国产Fable 5来了!

 

文章摘要


【关 键 词】 开源模型万亿参数技术架构前端代码视觉理解

Kimi正式推出最新开源大模型Kimi K3,该模型是全球首个开源的三万亿参数级别模型,支持一百万上下文长度并原生支持视觉理解。在权威大模型竞技场的最新榜单中,Kimi K3在前端代码竞技场排名第一,展现出在前端代码、三维模型、视觉图像和交互设计方面的突出能力。在整体智能表现上,其人工智能分析指数得分虽略逊于部分顶级闭源模型,但已远超业内其他大模型,在开源领域保持强势领先地位。

为支撑庞大的参数规模,Kimi K3在模型架构和训练系统上进行了多项技术创新。其核心技术包括解决长序列扩展效率的Kimi Delta Attention、改善信息传递的Attention Residuals以及维持高稀疏度路由均衡的Stable LatentMoE。通过将总参数扩展至2.8万亿并在每次计算中仅激活少量专家,模型在控制计算量的同时大幅扩大了容量。此外,引入的量化感知训练、Per-Head Muon优化方法以及多种增强激活与注意力控制的单元,共同保障了超大规模模型的高效与稳定训练,使整体规模扩展效率较前代提升约2.5倍。

在实际应用与实验结果方面,Kimi K3不仅在评估套件中表现出前沿水平的性能,始终优于其他受测开源模型,还在性价比上保持优秀水平。该模型显著推进了端到端知识工作,在真实用户代理工作流程中展现出持续的性能提升与全面的代理知识工作能力。目前,Kimi K3已正式开放使用,默认思考强度设置为最高级别,后续还将增加更多思考模式以供选择。这一成果标志着在超长上下文、超深网络和超大规模专家并行等技术前沿取得了重要突破,推动了开放前沿智能的长期发展目标。

原文和模型


【原文链接】 阅读原文 [ 1383字 | 6分钟 ]
【原文作者】 机器之心
【摘要模型】 qwen3.7-max-2026-05-17
【摘要评分】 ★★☆☆☆

© 版权声明
xunfeiagent

相关文章

trae

暂无评论

暂无评论...