声明:本文主要内容来自以下书籍《LangChain入门指南:构建高可复用、可扩展的LLM应用程序》和LangChain官网,非常感谢作者的贡献,由于作者有版权限制,因此在这里声明,如果涉及侵权,请联系我删除此文章。
【LangChain中文网出品】《LangChain入门指南:构建高可复用、可扩展的LLM应用程序》
5折粉丝优惠:https://u.jd.com/JisePtB
💡全面介绍LangChain技术,学会逐步构建自己的LLM应用程序
💡实用案例和示例代码助你快速上手
💡LangChain中文网出品,与社区互动,共享经验与解决难题
💡从基本模型到链式编程再到最佳实践等提供了细致、深入的指导和案例演示
? ? ? ?2023年是LLM(大语言模型)的元年,在这一年底座大模型,微调大模型,部署大模型并驾齐驱,发展的如火如荼。然而,目前的大模型并非完美,上下文窗口有限,幻觉问题等等问题,而各大厂商的大模型的API接口、数据格式和工具难以统一,而像LangChain和LlamaIndex这样的大模型应用框架解决了大模型“最后1公里”。
? ? ? ?之前我对LangChain比较零散的使用过,本文将对LangChain的六大核心模块中重要概念进行罗列,希望可以给读者一个更清晰更全面的应用指导。六大核心模块,如下图所示:
PS:由于LangChain社区发展快,所以此思维导图持续更新中......
LangChain六大模块
? ? ? ?LLM主要分为续写(Completion)和聊天(Chat Completion)两种模式,LangChain也同样适配。
- 01 LLM模型包装器
? ? ? ?LangChain已经实现了50种不同大语言模型的Completion类型API的包装器,包括OpenAI、Llama.cpp、Cohere、Anthropic等。OpenAI的Text Completion类型API在2023年7月进行最后一次更新,2020-2022年的模型text-davinci-003、text-davinci-002、Davinci、Curie、Babbage、Ada等只能通过Completion接口访问,而像GPT-3.5-Turbo、GPT-4等模型的访问可以通过Chat Completion来访问。
- 02 聊天模型包装器
- 01 ChatOpenAI:用于包装OpenAI Chat大语言模型(如GPT-4和GPT-3.5-Turbo)
- 02 AzureChatOpenAI:用于包装Azure平台上的OpenAI模型
- 03 PromptLayerChatOpenAI:用于包装PromptLayer平台上的OpenAI模型
- 04 ChatAnthropic:用于包装Anthropic平台上的大语言模型
- 05 ChatGooglePalm:用于包装Google Palm平台上的大语言模型
- 06 Chat Vertex AI:用于包装Vertex AI平台上的大语言模型,如Vertex AI的PaLM API中包含了Google的PaLM2的端点
? ? ? ?Prompt对于LLM来说非常重要,而LangChain为复杂的Prompt预置了很多模板,常见的如下所示:
- 01 PromptTemplate包装器
- 02 ChatPromptTemplate包装器
- 03 FewShotPrompt Template模板
- 04 多功能提示词模板
? ? ? ? LLM的输出经常会被应用于下游任务,比如在Prompt中添加“请输出JSON格式”,但模型返回的字符串形式JSON还需要进行转换为JSON对象,但在实际使用中,常常会遇到异常,因此LangChain退出了输出解析器来解决上述问题,常见的输出解析器如下所示:
- 01 BooleanOutputParser:用于解析布尔值类型的输出
- 02 CommaSeparatedList OutputParser:用于解析以逗号分隔的列表类型的输出
- 03 DatetimeOutputParser:用于解析日期时间类型的输出
- 04 EnumOutputParser:用于解析枚举类型的输出
- 05 ListOutputParser:用于解析列表类型的输出
- 06 PydanticOutputParser:用于解析符合Pydantic大语言模型需求的输出
- 07 StructuredOutputParser:用于解析具有特定结构的输出
? ? ? ?LLM并不完美,比如训练数据是有时间限制的,GPT-4训练数据日期截止到2023年4月,也就是说GPT-4并不能回答2023年4月之后世界发生的事情。LangChain通过支持RAG功能来添加辅助数据来缓减LLM知识更新的问题,一定程度上可以缓减幻觉。LangChain支持的数据源格式,如下所示:
- 01 CSV:CSVLoader
- 02 文件目录:DirectoryLoader
- 03 HTML:HTMLLoader
- 04 JSON:JSONLoader
- 05 Markdown:MarkdownLoader
- 06 PDF文档加载:
- 01 自然语言模型嵌入
- 02 AI平台或云服务嵌入
- 03 专门的嵌入模型
- 04 子托管嵌入
- 05 仿真或测试嵌入
- 06 其他类型
- 01 按字符切割
- 02 代码切割:RecursiveCharacterTextSplitter
- 03 Markdown标题文本切割器:MarkdownHeaderTextSplitter
- 04 按字符递归切割
- 05 按Token切割
- 01 FAISS
- 02 Chroma
- 03 Pinecone
- 04 Zilliz
- 01 自查询检索器
- 02 时间加权向量存储检索器
- 03 向量存储支持的检索器
- 04 网络研究检索器
? ? ? ?Chain是LangChain中非常重要的组件,作用是管理应用程序中的数据流动,可以把不同组件(或者其他Chain组件)链接在一起,从而构建完整的数据处理流程。常见的Chain,如下所示:
- 01 LLMChain
- 02 路由链
- 03 顺序链
- 01 Stuff链
- 02 Refine链
- 03 MapReduce链
- 04 重排链
- 01 Action Agent
- 02 langchain.experimental
- 01 Plan and Execute Agent
- 02 Autonomous Agent
- 03 Generative Agent
? ? ? ?LLM实际上是无记忆的,在聊天机器人中,历史消息是非常重要的,LangChain使用Memory组件来存储历史信息,下面是常见的Memory类型:
? ? ? ?在IT领域中,回调是一个非常重要的概念。回调处理器允许开发者在特定事件发生时执行自定义操作,在许多场景中非常有用,比如日志记录、性能监控、流式处理等。下面是设置Callback的一些事件:
- 01 on_llm_start
- 02 on_llm_new_token
- 03 on_llm_end
- 04 on_llm_error
- 01 on_chat_model_start
- 01 on_chain_start
- 02 on_chain_end
- 03 on_chain_error
- 01 on_tool_start
- 02 on_tool_end
- 03 on_tool_error
- 01 on_text
- 02 on_agent_action
- 03 on_agent_finish
? ? ? ?本文主要是对LangChain六大核心组件基本概念以及列出重要组件的介绍,但是由于内容多,而且LangChain更新快,尽量展示出更多的内容,但缺少更多介绍细节,也难免有遗漏,敬请期待后续更新更多内容......
[1]?https://python.langchain.com/docs
[2]?https://u.jd.com/JisePtB