解码RAG:智谱 RAG 技术的探索与实践

AIGC动态3周前发布 ai-front
359 0 0
解码RAG:智谱 RAG 技术的探索与实践

 

文章摘要


【关 键 词】 RAG技术知识管理智能客服模型优化技术专家

智谱AI长期致力于大模型技术的研究,尤其在RAG(Retrieval-Augmented Generation)应用领域积累了丰富的经验RAG技术通过Indexing(知识存储)、Retrieval(知识检索)和Generation(知识生成)三个步骤,有效解决了模型幻觉和知识更新不及时的问题,同时降低了实施成本,提高了内容可追溯性。

RAG技术的优势主要体现在以下几个方面:1. 相比直接与大模型对话,RAG能更好地解决模型幻觉和知识更新不及时的问题;2. 与传统的FAQ或搜索方式相比,RAG能显著降低实施成本;3. 基于RAG的生成可以追溯到内容来源,实现计算与存储分离的架构,便于权限管理;4. RAG技术可以降低问答成本,提高效率。

智谱AI的RAG解决方案包括技术方案和产品方案两个层面。技术方案涵盖了文件上传、用户提问和答案输出等环节,需要大量的工程和策略工作。例如,在文件上传过程中,需要对文档进行解析、过滤无关信息、提取结构信息等。产品方案则提供了知识运营和管理工具,以及知识问答过程中的辅助功能,如历史消息、输入提示、原文索引等。

在智能客服领域,智谱AI通过”ChatGLM大模型+RAG”的方案,有效解决了传统技术面临的知识整理成本高、知识复用性差、知识更新频繁、知识晦涩难懂等问题。同时,RAG技术还能提供更自然、拟人化的交互体验,生成更精准、有针对性的答案

在RAG技术的实践过程中,智谱AI面临了知识召回和答案生成等技术挑战。针对知识召回,采用了文章结构切片和small to big的索引策略,同时对Embedding模型进行微调,提高了召回的准确度。在答案生成方面,通过构造高质量的训练数据,采用分阶段微调和DPO(Distribution Perceptron Optimization)训练,提升了模型的生成效果。

评测是模型训练过程中的重要环节。构建评测数据集需要遵循真实性、多样性、等比例和难度区分等原则,以确保评测结果的准确性和有效性。

展望未来,RAG技术将在更多领域得到应用,并与其他AI技术相结合,如多模态交互、个性化推荐、用户长期记忆等。智谱AI将继续探索和实践RAG技术,为企业在更多领域提供智能、高效的服务体验。

柴思远作为智谱企业商业技术中心总经理,大数据算法技术专家,曾支持过多个重点大模型项目落地,具有丰富的行业经验和技术积累。

豆包-智能助手

原文和模型


【原文链接】 阅读原文 [ 4002字 | 17分钟 ]
【原文作者】 AI前线
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★

© 版权声明
讯飞星火大模型

相关文章

星火内容运营大师

暂无评论

暂无评论...