标签:优化策略

有300亿美元也未必“再造GPT-4”?NUS尤洋最新长文:拆穿AI增长瓶颈的真相

当前AI领域正面临智能增长的瓶颈,核心问题在于现有技术范式难以有效消化持续增长的算力。新加坡国立大学尤洋教授指出,过去十年AI的本质是将电力通过计算转...

Kimi 背后的长文本大模型推理实践:以 KVCache 为中心的分离式推理架构

在AICon全球人工智能开发与应用大会上,月之暗面高级研发工程师唐飞虎分享了Kimi智能助手背后的推理加速方案,以及该方案在设计时所需要考虑的指标和在真实生...