标签:Kimi Delta

刚刚,Kimi开源新架构,开始押注线性注意力

在智能体时代,推理的计算需求成为核心瓶颈,标准注意力机制的低效问题日益凸显。线性注意力虽能降低计算复杂度,但受限于表达能力,在语言建模中表现历来不...