建设银行 钓鱼网站石家庄logo设计公司

建设银行 钓鱼网站,石家庄logo设计公司,科技网络公司经营范围,wordpress修改分类标题DeepSeek/千问推理模型思考过程获取指南DeepSeek、千问等推理模型支持输出思考过程。本文介绍如何在 Microsoft.Extensions.AI 中启用推理模式#xff0c;并实现流式与非流式获取推理内容。核心概念#x1f9e0; 推理内容 (Reasoning Content) #xff1a;模型内…DeepSeek/千问推理模型思考过程获取指南DeepSeek、千问等推理模型支持输出思考过程。本文介绍如何在 Microsoft.Extensions.AI 中启用推理模式并实现流式与非流式获取推理内容。核心概念推理内容 (Reasoning Content)模型内部的思考逻辑独立于最终回答用于展示思考过程或调试。JsonPatchOpenAI SDK 提供的动态参数配置机制用于设置enable_thinking等非标准参数。⚙️RawRepresentationFactoryMicrosoft.Extensions.AI (MEAI) 的扩展点允许开发者直接配置底层 SDK 对象。流程图解关键实现1. 启用推理模式通过RawRepresentationFactory和JsonPatch设置底层参数// 创建启用推理模式的 ChatOptions var reasoningOptions new ChatOptions() { RawRepresentationFactory (client) { var options new ChatCompletionOptions(); // 使用 JsonPatch 设置 enable_thinking 参数 (适用于千问/DeepSeek部分模型) options.Patch.Set($.enable_thinkingu8, true); return options; } }; 提示不同模型的参数可能不同例如 DeepSeek Reasoner 可能需要设置thinking.type为enabled。2. 流式获取推理内容 (推荐)在流式响应中实时提取推理内容实现思考中...效果var updates client.GetStreamingResponseAsync(问题..., options: reasoningOptions); var openAIUpdates updates.AsOpenAIStreamingChatCompletionUpdatesAsync(); awaitforeach (var update in openAIUpdates) { Console.WriteLine([思考]); // 提取推理内容 if (update.Patch.TryGetValue($.choices[0].delta.reasoning_contentu8, outstring reasoning)) { Console.Write(${reasoning}); } // 提取最终回答 if (update.Patch.TryGetValue($.choices[0].delta.contentu8, outstring content)) { Console.Write(content); } }3. 非流式获取如果不需要实时展示可在完整响应后提取// 需要引用 Azure.AI.OpenAI 包 using Azure.AI.OpenAI.Chat;var response await chatClient.GetResponseAsync(问题..., reasoningOptions); var chatCompletion response.AsOpenAIChatCompletion(); // 使用扩展方法获取推理内容 var reasoning chatCompletion.GetMessageReasoningContent();最佳实践✅交互体验优先使用流式响应实时展示模型的思考过程减少用户等待焦虑。⚠️参数适配注意不同模型提供商的参数差异如enable_thinkingvsthinking.type。成本意识推理内容会计入 Token 消耗生产环境请根据需求开启。调试利器利用推理内容分析模型是如何得出结论的有助于优化 Prompt。总结通过 Microsoft.Extensions.AI 的RawRepresentationFactory扩展点我们可以灵活地支持 DeepSeek、千问等模型的推理特性。如需获取文章配套完整代码可扫码咨询领取。