“驯服”不受控的大模型,要搞定哪些事?| 专访达观数据副总裁王文广

AIGC动态3周前发布 ai-front
86 0 0
“驯服”不受控的大模型,要搞定哪些事?| 专访达观数据副总裁王文广

 

文章摘要


【关 键 词】 AICon大会大模型可控性问题技术应用知识图谱

在AICon全球人工智能开发与应用大会暨大模型应用生态展即将召开之际,InfoQ专访了达观数据副总裁王文广,探讨了大模型的可控性问题及其解决方案。以下是访谈的详细摘要:

大模型的不可控性:
王文广指出,大模型的输出内容取决于用户输入的prompt,因此从细节上控制模型输出是不可能的。大模型的不可控性主要表现在两方面:一是输出内容与用户预期的一致性,二是在特定场景下对输出精确度的高要求。

可控性问题的影响:
可控性问题并非大模型落地的最大障碍,但在一些对输出结果精确度要求高的场景(如制造业、金融领域)中,可控性的影响较大。

行业推动可控性的途径:
王文广认为,大模型提供商需要保证输出内容适应各地法规、习惯、隐私和道德要求,以推动可控性。

解决可控性问题的主流方法:
目前行业内普遍采用的解决可控性问题的方法主要有三种:RAG(检索增强生成)技术、向量数据库检索和知识图谱增强。其中,RAG技术通过检索所需信息并输入提示词到模型中,知识图谱则因其预定义结构方便找到精确答案。

知识图谱与大模型的互补关系:
王文广强调,知识图谱和大模型是互补的。大模型擅长概率输出和语言理解,而知识图谱则能提供确定性逻辑和精确控制。两者结合可以实现高度智能化且可落地应用的系统。

RAG技术的局限性及应对策略:
RAG技术在大模型可控性应用中不可避免,但存在局限性,如搜索引擎的复杂性、向量检索的可控性差和知识图谱的构建成本高。王文广建议在一个系统中综合运用这三种方法,以弥补各自的弱点。

大模型与知识图谱的关系:
王文广认为,大模型和知识图谱不会相互替代,因为大模型需要知识图谱作为“百科全书”来补充信息。大模型也需要更新,而知识图谱可以作为其进步的阶梯。

提高大模型可控性的技术:
目前提高大模型可控性的主要技术包括搜索引擎、知识图谱、向量数据库组合以及大模型本身能力的增强。

大模型可控性的未来发展:
王文广认为,单靠大模型很难达到业界和大众的预期,必须结合上述方法。他预计,大模型在可控性上达到普遍认可还需要一段时间。

在即将到来的AI Con大会上,王文广将分享如何通过搜索引擎、知识图谱和向量数据库的组合解决可控性问题,以及大模型在实际应用中的落地案例。

原文和模型


【原文链接】 阅读原文 [ 3281字 | 14分钟 ]
【原文作者】 AI前线
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★☆

© 版权声明
讯飞星火大模型

相关文章

星火内容运营大师

暂无评论

暂无评论...