阶跃发布端侧全家桶，1加N架构100毫秒本地调用

39 0 0

文章摘要

阶跃发布了Step Edge系列端侧多模态模型，采用“1加N”架构，旨在实现实时响应、数据隐私保护和推理成本优化。该系列由一个文本视觉基础模型和音频、GUI、图像生成三个多模态专项模型组成，并配合自研推理引擎，全面覆盖手机和车载场景下的多模态需求。这种端云协同的设计使得简单任务留在本地，复杂任务交回云端，从而在保障隐私的同时兼顾了响应速度与成本。

基础模型Step Edge在图像理解、GUI定位、工具调用和空间推理等端侧关键能力上表现出色。在多项同体量开源模型的横向对比中，该基础模型在GUI定位、工具调用和App代理等核心基准测试中取得了第一名的成绩，尤其在工具调用和空间推理方面优势显著。这为端侧智能体准确理解屏幕内容和执行本地自动化任务提供了坚实基础。

三个专项模型在各自领域也展现了强大的能力。音频模型在通用音频理解、推理及真实嘈杂语音场景识别上全面超越同尺寸及更大尺寸的竞品，中英文语音识别错误率大幅领先。GUI模型面向端侧本地闭环任务，在桌面和移动环境的界面理解与动作执行上具备极强竞争力，部分指标甚至超越了更大体量的云端模型。图像生成与编辑模型通过量化技术平衡了精度与速度，实现了约3秒的文生图和4.5秒的图像编辑，使得端侧图像生成达到了实用水平。

此外，自研推理引擎针对终端硬件进行了深度优化，显著降低了端到端延迟并提升了预填充吞吐量。配合100毫秒级别的本地工具调用和秒级的多模态处理速度，端侧模型的推理性能已跨越实用门槛，真正具备了在弱网或离线环境下提供流畅智能交互体验的能力。