不用人类手写训练框架了！AI自己写代码，训出1B端侧「小钢炮」

AIGC动态1小时前发布 almosthuman2014

58 0 0

文章摘要

面壁智能最新开源了1B级端侧文本基座大模型MiniCPM5-1B，主打低成本部署、高效运行和端侧友好。该模型旨在通过极致高效的参数规模换取强大的能力，满足个人电脑、手机和边缘设备等终端的本地化运行需求，支持在无网络环境下持续工作，致力于提供轻量化且随时待命的本地智能服务。

在性能表现方面，MiniCPM5-1B在压缩模型体量的同时，保住了端侧模型最需要的通用能力。其在综合知识、数学推理、代码编程等核心维度均超越同规模主要竞争对手。权威评测显示，该模型仅以1B参数规模取得优异评分，位列小尺寸模型榜单第一，进一步验证了大模型智能密度正在持续提升的密度定律，证明小尺寸模型也能承载复杂的推理与工具调用任务。

低门槛部署是端侧AI走向实际应用的关键前提。MiniCPM5-1B支持多种精度量化以及纯CPU和浏览器环境运行，极大降低了显存和内存要求，使普通消费级设备也能顺利加载。这种特性使轻量应用不必完全依赖云端算力，可在弱网或离线环境下完成推理。结合其对主流微调和推理框架的广泛支持，该模型能够便捷地集成到AI桌宠等碎片化场景中，提供即时响应与端侧智能体自主执行能力。

模型性能的跃升离不开底层数据质量与训练框架的创新。面壁同步开源了高质量预训练数据集，强调在小尺寸模型训练中，数据质量的提升比单纯扩大数据规模更为关键。此外，该模型的基座版本由完全由AI编写的生产级训练框架ForgeTrain参与预训练。该框架在训练效果对齐主流方案的同时速度提升百分之十，首次在生产级基础设施粒度上验证了AI制造AI的可行性，为端侧模型的生产方式提供了全新范式。