标签：硬件挑战
推理芯片的四种方案，David Patterson撰文
大型语言模型（LLM）推理面临的核心挑战源于Transformer模型的自回归解码特性，其本质差异于训练阶段，导致内存和互连延迟成为主要瓶颈。随着MoE架构、多模态...
影石刘靖康：「AI 硬件」的战场，大Boss是手机厂商，不是互联网公司
影石Insta360在2024年上半年超越GoPro成为全球运动相机市场的领导者。公司创始人刘靖康最初的目标是开发一款手机直播软件，但在2016年Insta360的首款产品Nano...
