Nomic-Embed-Text-V2-MoE集成至Dify：打造低代码AI应用工作流

Nomic-Embed-Text-V2-MoE集成至Dify：打造低代码AI应用工作流

最近在折腾AI应用开发的朋友，可能都有过类似的体验：好不容易部署好一个强大的模型，比如文本嵌入模型，想把它用到实际业务里，却发现还得写一堆后端接口、处理并发、设计数据库，开发门槛一下子就上去了。

如果你也遇到过这种“模型有了，应用难做”的情况，那今天聊的这个方案可能会让你眼前一亮。我们将把部署好的Nomic-Embed-Text-V2-MoE模型，无缝集成到Dify这个低代码AI应用平台上。简单来说，就是让这个专业的文本理解模型，变成一个“即插即用”的能力模块。业务人员或者产品经理，通过拖拖拽拽，就能快速搭建出智能文档检索、内容去重、自动打标签这些实用功能，完全不用操心背后的代码和架构。

这听起来是不是省心多了？接下来，我就带你一步步走通这个流程，看看怎么把技术能力变成业务价值。

1. 为什么选择Dify与Nomic-Embed的组合？

在开始动手之前，我们先花点时间聊聊，为什么是这两个技术的组合，以及它们能解决什么问题。

Nomic-Embed-Text-V2-MoE，这个名字有点长，我们简称它为Nomic嵌入模型。它的核心能力，是把一段文字（比如一个句子、一段话、一整篇文章）转换成一串有意义的数字，也就是“向量”。这个过程叫做“文本嵌入”。这串数字非常神奇，它能捕捉文字的语义信息。意思相近的文字，转换出来的数字串在数学空间里的“距离”也会很近。

举个例子，“我喜欢吃苹果”和“苹果是一种水果”，这两句话里的“苹果”指的是同一个东西，那么它们生成的向量就会很相似。而“我喜欢用苹果手机”这句话里的“苹果”，生成的向量就会和前两者有较大差异。模型就是通过这种方式“理解”文字的。

那么，理解文字之后能干嘛呢？用处可大了：

• 智能搜索：不再是机械地匹配关键词，而是理解你的意图，找到语义最相关的内容。
• 内容去重：自动发现海量文章、评论中意思重复的内容。
• 自动分类/打标签：根据文章内容，自动将其归到合适的类别或打上标签。
• 推荐系统：找到用户可能喜欢的、内容相似的文章或产品。

但是，光有模型能力还不够。传统上，要做一个具备上述功能的AI应用，你需要一个完整的开发团队：前端、后端、算法工程师齐上阵，开发周期长，成本高。

这时候，Dify的价值就体现出来了。你可以把它理解为一个“AI应用乐高平台”。它把大模型调用、提示词工程、知识库管理、工作流编排这些复杂的技术环节，都做成了可视化的模块。你不需要写代码，只需要在网页上拖拽这些模块，像搭积木一样把它们连接起来，就能构建出一个功能完整的AI应用。

所以，我们的思路就很清晰了：将强大的Nomic嵌入模型作为向量化引擎，接入Dify平台。利用Dify的低代码能力，快速构建上层AI应用。这样，技术团队专注于模型部署和优化，业务团队则可以基于此快速实验和落地各种智能场景，真正实现了降本增效。

2. 前期准备：模型部署与Dify环境

在开始连接之前，我们需要确保两件事：模型已经就绪，平台已经就位。

2.1 部署Nomic-Embed-Text-V2-MoE模型

首先，你需要有一个已经部署好的Nomic-Embed-Text-V2-MoE模型服务。这里假设你已经通过一些常见的部署方式（比如使用模型镜像、在服务器上直接运行等）启动了模型，并且它提供了一个标准的API接口。

关键点在于，这个API接口需要符合OpenAI的嵌入接口格式，或者至少是兼容的。因为Dify在对接外部模型时，对OpenAI格式的支持是最友好的。一个标准的请求看起来像这样：

curl -X POST http://你的模型服务地址/v1/embeddings \ -H "Content-Type: application/json" \ -d '{ "model": "nomic-embed-text-v2", "input": "需要被转换成向量的文本内容" }'

而模型的返回应该是这样的JSON格式：

{ "object": "list", "data": [ { "object": "embedding", "embedding": [0.012, -0.005, 0.034, ...], // 一长串数字，就是向量 "index": 0 } ], "model": "nomic-embed-text-v2", "usage": { "prompt_tokens": 10, "total_tokens": 10 } }

请务必先测试你的模型服务，确保它能接收这样的请求并返回正确格式的结果。这是后续一切工作的基础。

2.2 配置Dify平台

接下来是Dify这边。如果你还没有Dify，可以去它的官网按照指引进行部署，它支持Docker等多种方式，安装过程比较 straightforward。

安装好后，打开Dify的控制台。我们主要关注两个地方：模型供应商和工作流。

1. 模型供应商：这里是配置各种大模型接入的地方。Dify原生支持OpenAI、Anthropic等，我们需要在这里添加一个“自定义”的供应商来对接我们自己的Nomic模型。
2. 工作流：这是我们之后进行可视化编排的主战场。

环境准备好之后，最关键的连接步骤就要开始了。

3. 核心步骤：将模型作为自定义能力接入Dify

Dify本身没有预置Nomic模型，所以我们需要通过“自定义模型”的方式把它接进去。这个过程就像给Dify安装一个新的插件。

3.1 在Dify中配置自定义模型供应商

登录Dify后台，找到“设置” -> “模型供应商”页面。

1. 点击“添加模型供应商”，选择“自定义”类型。
2. 在配置表单中，需要填写以下关键信息：
   • 供应商名称：起个容易识别的名字，比如“Nomic-Embedding”。
   • API Base URL：填写你的Nomic模型服务的完整地址，例如http://192.168.1.100:8080/v1。注意，这里需要包含到/v1这一层，因为Dify会在这个地址后面拼接具体的接口路径（如/embeddings）。
   • API Key：如果你的模型服务需要鉴权，就在这里填写密钥。如果部署在内部网络且未设置鉴权，可以留空或填写任意字符（如sk-dummy）。
3. 填写完成后，点击“保存”。此时，Dify会尝试连接你提供的地址。如果配置正确，通常会提示添加成功。

3.2 创建自定义的文本嵌入模型

添加了供应商，我们还需要告诉Dify，这个供应商下面具体提供哪个模型。

1. 在“模型供应商”页面，找到你刚创建的“Nomic-Embedding”供应商，点击进入详情或管理。
2. 点击“添加模型”。
3. 在模型配置中：
   • 模型类型：选择“文本嵌入”。这是最重要的一步，决定了这个模型在Dify里扮演的角色。
   • 模型名称：填写模型标识，例如nomic-embed-text-v2。这个名称需要和你的模型服务在响应中返回的model字段一致（参见前面API返回的例子）。
   • 模型模式：根据你的模型能力选择，通常保持默认或选择“嵌入”。
   • 上下文长度：填写模型支持的最大文本长度，Nomic-Embed-Text-V2-MoE通常是8192。
4. 保存模型配置。

至此，你的Nomic嵌入模型已经作为一个“能力”正式入驻Dify平台了。你可以在后续创建知识库或工作流时，像选择OpenAI的模型一样选择它。

4. 实战应用：构建智能文档检索工作流

模型接入了，我们来真刀真枪地用它解决一个实际问题：搭建一个智能文档问答系统。用户输入一个问题，系统从一堆内部文档里找到最相关的内容，并生成一个简洁的答案。

4.1 创建知识库并接入嵌入模型

在Dify中，知识库是存储和检索文档的核心组件。

1. 进入“知识库”页面，点击“创建知识库”。
2. 填写知识库名称和描述。
3. 在“嵌入模型”选择区域，你会看到一个下拉框。点开它，应该就能找到我们刚刚配置好的nomic-embed-text-v2模型。选择它。
4. 知识库创建好后，上传你的文档（支持TXT、PDF、Word、PPT等多种格式）。Dify会自动调用你选择的Nomic嵌入模型，将文档切片、转换成向量，并存储起来。

这一步的意义在于：我们用Nomic模型替代了Dify默认的嵌入模型（如OpenAI的text-embedding-ada-002）。对于中文场景或特定领域文档，Nomic模型可能具有更好的语义理解能力，从而提升检索准确率。

4.2 使用工作流编排问答应用

知识库准备好了，我们来搭建一个自动问答的流水线。

1. 进入“工作流”页面，点击“创建空白工作流”。
2. 我们会用到以下几个关键节点，从左侧的节点库拖拽到画布上：
   • 开始节点：作为工作流的触发入口。
   • 知识库检索节点：连接我们创建好的知识库。将开始节点与它相连，并把用户的提问内容传递给它。这个节点内部会使用我们配置的Nomic模型，将问题转换成向量，并在知识库的向量数据库中进行相似度搜索，返回最相关的文档片段。
   • 大语言模型节点（如GPT-4、ChatGLM等）：用于生成最终答案。将知识库检索节点的输出（即相关文档片段）和用户的原始问题，一起作为提示词输入给大模型，让它“基于以下上下文回答问题”。
   • 结束节点：输出大模型生成的答案。
3. 用连接线将这些节点按逻辑顺序连接起来：开始 -> 知识库检索 -> 大语言模型 -> 结束。
4. 配置每个节点：
   • 在知识库检索节点中，选择你创建的那个使用Nomic嵌入模型的知识库。
   • 在大语言模型节点中，选择你喜欢的文本生成模型（如GPT-4），并编写好提示词模板，例如：“请根据以下上下文信息，回答用户的问题。如果上下文信息不足以回答问题，请直接说‘根据现有信息无法回答’。上下文：{context} 问题：{question}”。

现在，一个可视化的智能问答流水线就搭建完成了。你可以点击右上角的“运行”进行测试。当用户提问时，工作流会先利用Nomic模型精准检索相关知识，再交由大模型合成答案，整个过程无需编写一行代码。

5. 扩展场景：解锁更多低代码AI应用

基于“Nomic嵌入模型 + Dify工作流”这个组合，我们能玩的远不止智能问答。下面再分享几个可以快速实现的场景思路，你可以直接在Dify里尝试搭建。

场景一：内容智能去重与聚类

• 痛点：运营人员每天收集大量行业资讯或用户反馈，人工排查重复内容耗时耗力。
• 搭建思路：
  1. 创建一个“文本处理”工作流。
  2. 使用一个循环节点，批量处理输入的文章列表。
  3. 在循环体内，对每一篇文章，使用自定义代码节点（或通过HTTP请求节点调用你的Nomic模型API）计算其向量。
  4. 设计逻辑，将向量相似度超过某个阈值（如0.9）的文章标记为“疑似重复”。
  5. 输出一个包含去重后文章列表及重复组报告的结果。
• 价值：自动识别重复或高度相似的内容，提升信息处理效率。

场景二：自动化内容标签生成

• 痛点：文章、商品上架时需要手动打标签，不一致且效率低。
• 搭建思路：
  1. 准备一个标签库，并为每个标签准备一些示例描述，同样用Nomic模型转换成向量，存入一个简易的“标签向量库”。
  2. 创建工作流，输入待打标签的文本内容。
  3. 用Nomic模型计算输入文本的向量。
  4. 将其与“标签向量库”中的所有标签向量进行相似度计算。
  5. 选出相似度最高的前3-5个标签，作为推荐标签输出。
• 价值：实现内容标签的自动、标准化生成，特别适用于电商商品分类、文章主题标记等。

场景三：个性化推荐引擎（简易版）

• 痛点：想为网站用户提供“猜你喜欢”的内容，但开发完整推荐系统成本高。
• 搭建思路：
  1. 将站内所有内容（文章、产品）通过Nomic模型向量化，并存储其向量和ID。
  2. 当用户浏览或喜欢某个内容A时，获取A的向量。
  3. 在工作流中，计算内容A的向量与内容库中其他所有内容向量的相似度。
  4. 筛选出相似度最高且未被用户浏览过的若干内容，推荐给用户。
• 价值：以较低成本为产品增加个性化推荐能力，提升用户粘性。

6. 总结

走完整个流程，你会发现，将Nomic-Embed-Text-V2-MoE这类专业模型集成到Dify这样的低代码平台，就像给业务人员配上了一把强大的“AI瑞士军刀”。技术团队负责打磨好刀锋（部署优化模型），业务团队则可以自由组合刀上的各种工具（通过工作流编排），快速解决实际问题。

这种模式极大地降低了AI应用的开发现代化门槛。过去需要数周开发、联调的功能，现在可能几个小时就能搭出原型。更重要的是，它把AI能力的使用权，从算法工程师手中，部分移交给了更贴近业务场景的产品和运营同学，能够激发更多接地气的创新应用。

当然，在实际使用中可能会遇到一些小挑战，比如模型服务的网络延迟、批量处理时的性能优化等。但总体来看，这条技术路径的性价比非常高。如果你手头有不错的垂直领域模型，正愁于如何让它产生业务价值，不妨试试用Dify把它“包装”起来，或许能打开一片新天地。

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。