Agent要数量也要脑子！浪潮信息一边单柜养4万Agent，一边让大模型组队答题

37 0 0

文章摘要

随着人工智能技术的发展，AI基础设施的核心任务正经历重大转变。其重心已从单纯支撑大模型推理，转向支撑海量智能体的规模化运行与高质量Token的持续生产。在智能体时代，应用场景需要处理任务拆解、工具调用及多轮协作等复杂流程，这对底层算力提出了截然不同的要求。传统的单一模型调用模式已无法满足需求，基础设施不仅需要保障成千上万个智能体稳定协同运行，还需实现多个模型的分工协作以提升任务处理能力。

这种新需求促使算力配比发生变化，CPU在任务拆解和逻辑推理中的重要性显著提升，同时机柜功率密度的攀升使得传统风冷难以满足散热需求，液冷方案成为必然选择。针对这些挑战，浪潮信息发布了业界首款CPU原生液冷整机柜服务器，单柜最大可支持4万多个智能体协同运行。该设备采用开放计算模组架构，兼容不同代际与架构的处理器，并通过计算与散热协同设计的原生液冷技术，将所有发热部件纳入液冷体系，实现了无线缆设计与热维护，大幅提升了运维效率。

为了让智能体具备更强处理能力，多模型协同成为关键。浪潮信息推出多模融合API与元脑SD200超节点AI服务器企业版，将复杂任务分配给多个候选模型并由评审模型融合结果，显著提升长链路任务输出质量。元脑SD200超节点通过多Token预测、精度优化及即时编译等软硬协同技术，大幅降低万亿参数模型首Token延迟，使企业能以更低成本在生产环境中部署万亿参数大模型。

当前，AI基础设施的竞争焦点已发生深刻变化。软件平台、CPU与GPU的紧密协同成为支撑海量智能体稳定运行和复杂任务高效执行的关键，行业竞争重点已从单一模型支持能力全面转向系统级协同能力。只有实现整条链路的顺畅与高度协同，才能真正满足智能体时代对底层基础设施的严苛要求，推动企业级AI应用的规模化落地与持续发展。