标签：流式处理
突破三维感知瓶颈：魔芯科技发布VGGT系列成果，实现动态高保真重建并获新一轮融资
在流式记忆层面，研究引入跨层一致性评分与混合缓存机制，通过动态归类与压缩替代硬性剔除，在极低显存开销下实现无限长序列的连续高保真重建。该选择性记忆...
标点符号成大模型训练神器！KV缓存狂减一半，可处理400万Tokens长序列，来自华为港大等 | 开源
华为、港大等机构的研究团队提出了一种基于自然语言分隔符的新型大语言模型SepLLM，通过将文本语义信息压缩至标点符号中，显著提升了训练推理效率。该方法发...
开源版GPT-4o来了，AI大神Karpathy盛赞！67页技术报告全公开
法国初创团队Kyutai开发的端到端语音模型Moshi已经开源，该模型以其自然聊天、情绪丰富、支持打断和非回合制对话等特点受到关注。模型参数量为7.69B，支持在p...
