标签：开源框架
谷歌推出 LLM-Evalkit，为提示词工程带来秩序与可衡量性
谷歌近日推出了名为LLM-Evalkit的开源框架，该工具基于Vertex AI SDK构建，旨在解决大语言模型（LLM）提示词工程中的核心痛点。通过将分散的文档和基于猜测的...
蚂蚁dInfer框架，让扩散大语言模型推理速度再飙10倍，相同模型性能下超越自回归模型
蚂蚁集团开源了业界首个高性能扩散语言模型推理框架dInfer，旨在解决扩散模型在推理效率上的瓶颈问题。长期以来，自回归模型在自然语言处理领域占据主导地位...
小红书发布FireRedChat：首个可私有化部署的全双工大模型语音交互系统
小红书智创音频团队推出的FireRedChat系统是业内首个支持私有化部署的全双工大模型语音交互解决方案，通过自研核心技术解决了传统语音交互中延迟高、噪声敏感...
Transformer作者初创公司最新成果：开源新框架突破进化计算瓶颈，样本效率暴涨数十倍
开源框架ShinkaEvolve通过三项核心技术实现了进化计算领域的突破性进展，将大语言模型（LLM）自我优化的样本效率提升数十倍。由Transformer作者Llion Jones创...
Memory is King。
AI 的健忘问题严重影响使用体验，使其难以成为长期伙伴。而记忆对于 AI 至关重要，有了记忆，它才能与用户建立连续性关系，节省沟通时间。今年主流 AI 产品已...
从“造轮子”到“搭积木”，涂鸦想把硬件创新的门槛打下来
AI硬件的开发门槛正以前所未有的速度降低，推动着物理AI浪潮的兴起。从AI机器人比赛到智能玩具热销，人工智能已从实验室快速渗透至日常生活，这一现象与十年...
具身智能大脑+首个SaaS开源框架，智源研究院刷新10项测评基准，加速群体智能新范式
智源研究院在具身智能领域取得了显著进展，推出了RoboBrain 2.0和RoboOS 2.0两大创新技术。RoboBrain 2.0作为“通用具身大脑”，面向真实物理环境，集感知、推...
重磅！淘天联合爱橙开源强化学习训练框架ROLL，高效支持十亿到千亿参数大模型训练
过去几年，基于人类偏好的强化学习（RLHF）成为大语言模型（LLM）后训练阶段的关键技术，显著提升了模型的对齐能力，并拓展了其在推理增强、智能体交互等场景...
最新W4A4KV4全量化框架，单卡A100大模型推理速度飙升
王颖研究员团队联合华北电力大学和上海科技大学，在ASPLOS 2025会议上发布了COMET框架，该框架通过系统-算法协同优化，实现了权重、激活和KV缓存全4比特推理...
4090单卡跑满血版DeepSeek-R1，清华团队开源项目再破大模型推理门槛
清华大学KVCache.AI团队与趋境科技联合推出的KTransformers开源项目，通过技术创新实现了千亿参数模型在消费级硬件上的本地化部署。该项目最新版本支持24G显...
1
2
