天下苦LangChain久矣

AIGC动态1个月前发布 damoxingLab
551 0 0
天下苦LangChain久矣

 

文章摘要


【关 键 词】 语言模型编程库多模态监控功能抽象级别

Ell 是一个新发布的语言模型编程库,旨在与 LangChain、Llama-Index 和 DSPy 等现有库竞争,甚至有可能取代它们。Ell 的核心维护者对 LangChain 的抽象表示不满,认为 Ell 提供了一种更简洁的解决方案。Ell 的设计理念是将提示视为程序而非简单的字符串,这一理念在社区中引起了讨论。

Ell 的一个显著特点是其对多模态输入的支持,允许用户上传图像并基于这些图像提问,这为广泛的应用场景打开了大门。此外,Ell 还支持结构化输出,尽管这一功能目前只对特定版本的 GPT-4 模型可用。

Ell 的监控功能允许用户跟踪提示的变化,包括延迟和 Token 使用等指标,所有这些数据都存储在本地数据库中,而不是第三方数据库。尽管作者对监控功能的实际效用持怀疑态度,但认为将提示-响应对存储在数据库中有助于创建微调数据集。

在工具使用方面,Ell 支持使用装饰器来定义工具,尽管作者在尝试使用 SERPAPI 搜索时遇到了困难。此外,Ell 的前端使用 React,后端则基于 FastAPI,这种架构设计受到了作者的赞赏。

尽管 Ell 在某些方面还不够成熟,例如与 DSPy 相比,实现如 RAG 这样的功能可能需要更多的工作,而且它也没有 LangChain 提供的广泛集成。但作者鼓励社区尝试 Ell 并形成自己的看法。

作者对 Ell 的一些核心概念持保留态度,例如将提示视为程序,以及对 LLM 的不同理解。尽管如此,作者认为 Ell 的出现是有益的,因为它提供了不同的抽象方式来与语言模型一起工作。

最后,作者提出了关于 API 调用之上是否需要抽象,以及正确的抽象级别应该是什么样的问题,这引发了对语言模型编程库未来发展的进一步思考。

豆包-智能助手

原文和模型


【原文链接】 阅读原文 [ 2932字 | 12分钟 ]
【原文作者】 AI大模型实验室
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★

© 版权声明

相关文章

暂无评论

暂无评论...