信息产业部备案网站零度业务网站

信息产业部备案网站,零度业务网站,网页美工设计培训学什么,如果学wordpressLangChain是一个用于开发大语言模型(LLM)应用程序的开源框架。与之前介绍的Xinference这类专门的模型推理工具不同#xff0c;LangChain的核心价值在于连接和编排——它像“乐高积木”一样#xff0c;将LLM、外部数据、计算工具等组件高效地组装起来#xff0c;帮助你构建功…LangChain是一个用于开发大语言模型(LLM)应用程序的开源框架。与之前介绍的Xinference这类专门的模型推理工具不同LangChain的核心价值在于连接和编排——它像“乐高积木”一样将LLM、外部数据、计算工具等组件高效地组装起来帮助你构建功能复杂的应用。 核心组件与概念理解LangChain需要先了解它为了“连接”和“编排”而设计的几个核心组件它们共同构成了智能应用的“大脑”和“身体”组件核心作用类比与说明模型 (Models)应用的核心“大脑”支持OpenAI、Anthropic等各类LLM是生成能力的来源。提示 (Prompts)指导“大脑”思考的指令将用户输入和指令封装成模板更高效地与模型交互。链 (Chains)执行复杂任务的“流水线”将多个步骤如调用模型、处理输出按顺序组合是LangChain名称的由来。记忆 (Memory)应用的“短期记忆”让应用能记住对话历史实现连贯的多轮对话。检索 (Retrieval)应用的“长期记忆”或“资料库”从外部文档、数据库中查找并注入相关信息是构建知识问答系统的核心。代理 (Agents)能使用“工具”的“智能体”让模型根据你的问题自动决定是否及如何使用计算器、搜索API等外部工具来完成任务。 从安装到“Hello World”LangChain部署简单你只需要在自己的开发环境中安装它然后一步步组合组件。1. 环境安装首先通过pip安装核心包。根据你的需要可能还需安装特定的模型接口包如openai或其他工具包。pipinstalllangchain langchain-openai2. 一个极简应用示例下面是一个使用OpenAI模型进行简单问答的代码片段它展示了模型、提示模板和链的基础组合fromlangchain_openaiimportChatOpenAIfromlangchain.promptsimportChatPromptTemplatefromlangchain.chainsimportLLMChain# 1. 初始化模型需要设置你的OPENAI_API_KEY环境变量llmChatOpenAI(modelgpt-3.5-turbo)# 2. 创建提示模板promptChatPromptTemplate.from_messages([(system,你是一个乐于助人的助手。),(user,{query})])# 3. 将模型和提示组合成一个链chainLLMChain(llmllm,promptprompt)# 4. 运行链responsechain.invoke({query:请用一句话解释什么是人工智能。})print(response[text])3. 接入阿里百炼模型示例使用兼容模式初始化百炼模型以通义千问 qwen-plus 为例importosfromlangchain_openaiimportChatOpenAI# 从环境变量读取配置示例api_keyos.getenv(DASHSCOPE_API_KEY)base_urlhttps://dashscope.aliyuncs.com/compatible-mode/v1# 百炼的兼容端点# 初始化模型llmChatOpenAI(modelqwen-plus,# 指定模型可从百炼模型广场查看[citation:3]openai_api_keyapi_key,openai_api_basebase_url,temperature0.1,# 控制生成随机性)# 测试调用responsellm.invoke(你好)print(response.content)4. 接入本地文档进行知识库问答首先需要将本地文档处理成可以被检索的知识importosfromlangchain.document_loadersimportPyPDFLoader# 以PDF为例fromlangchain.text_splitterimportRecursiveCharacterTextSplitterfromlangchain.embeddingsimportDashScopeEmbeddings# 百炼的嵌入模型fromlangchain.vectorstoresimportFAISS# 向量数据库# 1. 加载文档以单PDF为例# 可以替换为 DirectoryLoader 来批量加载[citation:2]loaderPyPDFLoader(path/to/your/document.pdf)documentsloader.load()# 2. 分割文本# 这是关键步骤直接影响检索质量[citation:2]text_splitterRecursiveCharacterTextSplitter(chunk_size500,# 每个文本块大小chunk_overlap50# 块之间的重叠避免信息被切断)splitstext_splitter.split_documents(documents)# 3. 生成向量并存储# 使用百炼的嵌入模型将文本转化为向量embeddingsDashScopeEmbeddings(modeltext-embedding-v1,# 百炼的文本向量模型api_keyos.getenv(DASHSCOPE_API_KEY)# 你的API Key)# 将向量存入FAISS轻量、适合本地部署[citation:2]vectorstoreFAISS.from_documents(splits,embeddings)# 将向量库保存到本地以后可以直接加载无需重复处理文档vectorstore.save_local(my_local_faiss_index)print(知识库构建完成并已保存。)然后结合百炼的大模型进行问答fromlangchain.chainsimportRetrievalQA# 导入你之前配置好的、兼容OpenAI接口的百炼模型# 假设你的模型初始化代码在一个叫 qianfan_llm.py 的文件里fromqianfan_llmimportllm# 这是你之前配置好的ChatOpenAI实例# 1. 加载之前保存的向量库embeddingsDashScopeEmbeddings(modeltext-embedding-v1,api_keyos.getenv(DASHSCOPE_API_KEY))loaded_vectorstoreFAISS.load_local(my_local_faiss_index,embeddings,allow_dangerous_deserializationTrue)# 2. 创建检索器retrieverloaded_vectorstore.as_retriever(search_kwargs{k:3})# 返回最相关的3个文本块[citation:2]# 3. 创建“检索-问答”链qa_chainRetrievalQA.from_chain_type(llmllm,# 使用你的百炼大模型chain_typestuff,# 最常用的链类型将检索到的文本“塞”给模型[citation:1][citation:4]retrieverretriever,return_source_documentsTrue# 返回参考来源方便追溯[citation:2])# 4. 开始提问query你的问题是什么resultqa_chain.invoke({query:query})print(答案,result[result])print(\n参考来源)fordocinresult[source_documents]:print(f-{doc.page_content[:200]}...)# 打印来源文本的前200字符 典型应用场景与构建思路掌握了基础组件就可以构建更强大的应用。下表展示了两个经典场景的构建路径应用场景核心需求LangChain构建思路与关键组件智能文档问答让LLM基于自有文档如PDF、内部知识库回答问题。1. 知识入库用文档加载器读取文件用文本分割器切块用嵌入模型向量化后存入向量数据库(如FAISS)。2. 问答流程用户提问 →检索器从向量库找相关片段 →提示模板将片段和问题组合 →LLM生成答案。上下文感知对话机器人实现能记住之前聊天内容、连续对话的聊天机器人。1. 添加记忆在链中加入ConversationBufferMemory等记忆组件。2. 管理会话通过ChatMessageHistory等管理不同用户的对话历史。3. 组合运行将记忆、提示、模型组装成链每次调用自动带入历史。⚙️ 进阶与生产部署当应用开发完成后你可以调试与优化使用LangSmith平台LangChain官方产品来可视化追踪链的每一步执行调试提示词和性能。部署为服务使用FastAPI、Gradio等Web框架将你的LangChain应用包装成API或网页界面方便他人使用。总而言之LangChain不是一个需要独立部署的“服务”而是一个用于在你的项目中快速构建AI应用的“开发框架”和“组件库”。它的学习路径非常清晰从理解核心组件开始通过组合它们来搭建应用原型再逐步集成更高级的功能如检索、代理并最终部署。