标签：框架开源

DeepSeek推理再提速80%，V4正式版定档7月中旬

推测解码技术通过轻量级模型生成候选词并由大模型并行校验来加速文本生成，但传统的并行解码模型容易出现接受率快速衰减的尾部短板，且固定块长的校验方式无...

AIGC动态

3小时前