文章摘要
【关 键 词】 AICon大会、大模型、可控性问题、技术应用、知识图谱
在AICon全球人工智能开发与应用大会暨大模型应用生态展即将召开之际，InfoQ专访了达观数据副总裁王文广，探讨了大模型的可控性问题及其解决方案。以下是访谈的详细摘要：
大模型的不可控性：
王文广指出，大模型的输出内容取决于用户输入的prompt，因此从细节上控制模型输出是不可能的。大模型的不可控性主要表现在两方面：一是输出内容与用户预期的一致性，二是在特定场景下对输出精确度的高要求。
可控性问题的影响：
可控性问题并非大模型落地的最大障碍，但在一些对输出结果精确度要求高的场景（如制造业、金融领域）中，可控性的影响较大。
行业推动可控性的途径：
王文广认为，大模型提供商需要保证输出内容适应各地法规、习惯、隐私和道德要求，以推动可控性。
解决可控性问题的主流方法：
目前行业内普遍采用的解决可控性问题的方法主要有三种：RAG（检索增强生成）技术、向量数据库检索和知识图谱增强。其中，RAG技术通过检索所需信息并输入提示词到模型中，知识图谱则因其预定义结构方便找到精确答案。
知识图谱与大模型的互补关系：
王文广强调，知识图谱和大模型是互补的。大模型擅长概率输出和语言理解，而知识图谱则能提供确定性逻辑和精确控制。两者结合可以实现高度智能化且可落地应用的系统。
RAG技术的局限性及应对策略：
RAG技术在大模型可控性应用中不可避免，但存在局限性，如搜索引擎的复杂性、向量检索的可控性差和知识图谱的构建成本高。王文广建议在一个系统中综合运用这三种方法，以弥补各自的弱点。
大模型与知识图谱的关系：
王文广认为，大模型和知识图谱不会相互替代，因为大模型需要知识图谱作为“百科全书”来补充信息。大模型也需要更新，而知识图谱可以作为其进步的阶梯。
提高大模型可控性的技术：
目前提高大模型可控性的主要技术包括搜索引擎、知识图谱、向量数据库组合以及大模型本身能力的增强。
大模型可控性的未来发展：
王文广认为，单靠大模型很难达到业界和大众的预期，必须结合上述方法。他预计，大模型在可控性上达到普遍认可还需要一段时间。
在即将到来的AI Con大会上，王文广将分享如何通过搜索引擎、知识图谱和向量数据库的组合解决可控性问题，以及大模型在实际应用中的落地案例。
原文和模型
【原文链接】 阅读原文 [ 3281字 | 14分钟 ]
【原文作者】 AI前线
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★☆
相关文章
