简单几步：在Jupyter Notebook中成功运行Qwen3-1.7B模型

简单几步：在Jupyter Notebook中成功运行Qwen3-1.7B模型

你是不是也想在自己的电脑上体验一下大语言模型的魅力，但又觉得环境配置太复杂，代码看着就头疼？别担心，今天我就带你用最简单的方法，在熟悉的Jupyter Notebook里快速运行Qwen3-1.7B模型。整个过程就像搭积木一样简单，不需要复杂的命令行操作，也不需要折腾各种依赖包，几分钟就能看到模型“开口说话”。

Qwen3-1.7B是阿里巴巴开源的一个轻量级大语言模型，虽然只有17亿参数，但能力相当不错，而且对硬件要求友好，普通电脑也能跑起来。更重要的是，我们今天用的方法完全避开了那些繁琐的安装步骤，直接通过预配置的镜像环境来运行，真正做到了开箱即用。

1. 准备工作：理解我们要做什么

在开始之前，我先简单解释一下我们的整体思路，这样你就能明白为什么这个方法如此简单。

1.1 传统方法的痛点

通常要在本地运行一个大语言模型，你需要：

1. 安装Python环境
2. 安装PyTorch、Transformers等深度学习框架
3. 下载模型文件（可能几十GB）
4. 配置CUDA、cuDNN等GPU驱动
5. 处理各种版本兼容性问题
6. 写一堆初始化代码

这个过程对新手来说简直就是噩梦，任何一个环节出错都可能让你卡住好几天。

1.2 我们的简化方案

我们今天用的方法完全不同：

1. 使用预配置的镜像环境：别人已经把所有环境都配置好了，我们直接拿来用
2. 在Jupyter中运行：用你熟悉的网页界面操作，不需要命令行
3. 通过API调用：模型已经在服务器上运行好了，我们只需要发送请求
4. 代码极其简单：几行代码就能看到效果

这个方案最大的好处就是零配置，你不需要懂深度学习框架，不需要处理环境问题，只需要会写几行Python代码就行。

1.3 你需要准备什么

• 一个能上网的电脑
• 浏览器（Chrome、Edge、Firefox都行）
• 基本的Python语法知识（知道怎么定义变量、调用函数就行）
• 不需要GPU，不需要高性能电脑

2. 第一步：启动镜像环境

这是整个过程中唯一需要“操作”的步骤，而且非常简单。

2.1 找到Qwen3-1.7B镜像

首先，你需要访问提供这个镜像的平台。不同的平台界面可能略有不同，但基本流程是一样的：

1. 在平台的镜像广场或应用市场搜索“Qwen3-1.7B”
2. 找到对应的镜像，通常会有明确的标识
3. 点击“启动”或“运行”按钮

2.2 启动Jupyter Notebook

镜像启动后，你会看到一个类似这样的界面：

正在启动容器... 容器启动成功！ Jupyter服务地址：https://xxxxxx-8000.web.xxxxx.net

点击那个链接，或者复制到浏览器中打开，就能看到熟悉的Jupyter Notebook界面了。

2.3 创建新的Notebook

进入Jupyter界面后：

1. 点击右上角的“New”按钮
2. 选择“Python 3”创建一个新的Notebook
3. 给Notebook起个名字，比如“qwen3_demo.ipynb”

现在，你已经有了一个可以运行Python代码的环境，而且所有需要的库都已经安装好了，包括：

• Python 3.8+
• PyTorch
• Transformers
• LangChain
• 以及其他必要的依赖

3. 第二步：编写调用代码

接下来就是最核心的部分了——写代码调用模型。别担心，代码非常简单，我一行一行解释给你听。

3.1 导入必要的库

在Notebook的第一个单元格中，输入以下代码：

from langchain_openai import ChatOpenAI import os

这两行代码的意思是：

• 第一行：从langchain_openai库中导入ChatOpenAI类，这是用来和AI模型对话的工具
• 第二行：导入操作系统相关的功能（虽然我们这里用不到太多，但习惯上都会导入）

3.2 配置模型连接

在下一个单元格中，输入以下代码：

chat_model = ChatOpenAI( model="Qwen3-1.7B", temperature=0.5, base_url="https://gpu-pod69523bb78b8ef44ff14daa57-8000.web.gpu.csdn.net/v1", api_key="EMPTY", extra_body={ "enable_thinking": True, "return_reasoning": True, }, streaming=True, )

让我解释一下每个参数是什么意思：

• model="Qwen3-1.7B"：指定我们要使用的模型名称
• temperature=0.5：控制模型创造性的参数，值越小回答越保守，值越大回答越有创意（0到1之间）
• base_url：这是模型服务的地址。重要提示：你需要把这个地址换成你实际启动镜像后得到的地址
• api_key="EMPTY"：因为我们是本地调用，不需要API密钥，所以填"EMPTY"
• extra_body：额外的配置参数，这里开启了“思考过程”和“返回推理”功能
• streaming=True：启用流式输出，这样你可以看到模型一个字一个字地生成回答，而不是等全部生成完才显示

3.3 如何找到正确的base_url

这是唯一可能让人困惑的地方，但其实很简单：

1. 启动镜像后，平台会给你一个访问地址，比如：https://xxxxxx-8000.web.xxxxx.net
2. 在这个地址后面加上/v1，就得到了base_url
3. 注意端口号必须是8000

举个例子：

• 如果给你的地址是：https://gpu-pod1234567890-8000.web.gpu.example.com
• 那么base_url就是：https://gpu-pod1234567890-8000.web.gpu.example.com/v1

3.4 第一次测试：让模型自我介绍

现在让我们进行第一次测试，看看模型能不能正常工作。在新的单元格中输入：

response = chat_model.invoke("你是谁？") print(response.content)

运行这个单元格，你应该能看到类似这样的输出：

我是通义千问，由阿里巴巴集团创造的大语言模型。我是Qwen3系列模型的一员，专门设计来理解和生成人类语言，帮助用户解答问题、提供信息、进行对话等。有什么我可以帮助你的吗？

如果看到了这样的回答，恭喜你！模型已经成功运行起来了。

4. 第三步：探索模型能力

现在模型已经跑起来了，让我们试试它都能做什么。

4.1 基础问答测试

让我们问一些常见的问题：

# 测试知识问答 question1 = "中国的首都是哪里？" response1 = chat_model.invoke(question1) print(f"问题：{question1}") print(f"回答：{response1.content}") print("-" * 50) # 测试逻辑推理 question2 = "如果小明比小红高，小红比小华高，那么谁最高？" response2 = chat_model.invoke(question2) print(f"问题：{question2}") print(f"回答：{response2.content}") print("-" * 50) # 测试创意写作 question3 = "写一首关于春天的五言绝句" response3 = chat_model.invoke(question3) print(f"问题：{question3}") print(f"回答：{response3.content}")

运行后，你会看到模型对不同类型的问題都能给出合理的回答。

4.2 多轮对话测试

大语言模型的一个重要能力是记住上下文，进行多轮对话。让我们试试：

# 第一轮对话 messages = [ {"role": "user", "content": "我喜欢吃苹果"} ] response = chat_model.invoke(messages[-1]["content"]) print(f"用户：{messages[-1]['content']}") print(f"AI：{response.content}") # 第二轮对话（基于之前的上下文） messages.append({"role": "assistant", "content": response.content}) messages.append({"role": "user", "content": "那香蕉呢？"}) response2 = chat_model.invoke(messages[-1]["content"]) print(f"\n用户：{messages[-1]['content']}") print(f"AI：{response2.content}")

你会发现，模型能够理解“那香蕉呢？”指的是“喜不喜欢吃香蕉”，而不是问“香蕉是什么”。这就是上下文理解能力。

4.3 调整生成参数

你可以通过调整参数来改变模型的回答风格：

# 创建一个更有创意的模型实例 creative_model = ChatOpenAI( model="Qwen3-1.7B", temperature=0.9, # 更高的温度，更有创意 base_url="你的base_url/v1", # 记得替换 api_key="EMPTY", streaming=True, ) # 创建一个更保守的模型实例 conservative_model = ChatOpenAI( model="Qwen3-1.7B", temperature=0.1, # 更低的温度，更保守准确 base_url="你的base_url/v1", # 记得替换 api_key="EMPTY", streaming=True, ) # 测试不同温度的效果 prompt = "写一个关于人工智能的短故事" print("=== 高温度（有创意）===") response1 = creative_model.invoke(prompt) print(response1.content[:200] + "...") # 只显示前200字符 print("\n=== 低温度（保守）===") response2 = conservative_model.invoke(prompt) print(response2.content[:200] + "...")

你会看到，同样的提示词，不同的温度设置会产生风格迥异的回答。

5. 第四步：实际应用示例

了解了基本用法后，让我们看看在实际场景中怎么用这个模型。

5.1 文本摘要

假设你有一篇长文章需要摘要：

long_text = """ 人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器。 该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能从诞生以来，理论和技术日益成熟， 应用领域也不断扩大，可以设想，未来人工智能带来的科技产品，将会是人类智慧的“容器”。人工智能可以对人的意识、 思维的信息过程的模拟。人工智能不是人的智能，但能像人那样思考、也可能超过人的智能。 """ prompt = f"请用一句话总结以下内容：\n\n{long_text}" response = chat_model.invoke(prompt) print("原文长度：", len(long_text), "字符") print("摘要：", response.content)

5.2 代码生成

Qwen3-1.7B也有不错的代码生成能力：

prompt = """ 写一个Python函数，接收一个整数列表作为参数，返回这个列表中的最大值和最小值。 要求：函数名为find_min_max，要有详细的注释。 """ response = chat_model.invoke(prompt) print(response.content) # 你可以直接复制生成的代码运行测试 generated_code = response.content

5.3 语言翻译

试试中英互译：

# 中文翻译成英文 chinese_text = "今天天气真好，我想去公园散步。" prompt1 = f"将以下中文翻译成英文：{chinese_text}" response1 = chat_model.invoke(prompt1) print(f"中文：{chinese_text}") print(f"英文：{response1.content}") # 英文翻译成中文 english_text = "Artificial intelligence is transforming every industry." prompt2 = f"将以下英文翻译成中文：{english_text}" response2 = chat_model.invoke(prompt2) print(f"\n英文：{english_text}") print(f"中文：{response2.content}")

5.4 问题解答

你可以把它当作一个知识助手：

questions = [ "如何学习Python编程？", "什么是机器学习？", "如何预防感冒？", "推荐几本好的科幻小说", ] for i, question in enumerate(questions, 1): print(f"\n问题{i}：{question}") response = chat_model.invoke(question) print(f"回答：{response.content[:150]}...") # 只显示前150字符

6. 常见问题与解决方案

在实际使用中，你可能会遇到一些问题，这里我总结了一些常见的情况和解决方法。

6.1 连接失败怎么办？

如果运行代码时出现连接错误，可以检查以下几点：

# 测试连接是否正常 import requests def test_connection(base_url): try: # 去掉/v1，测试基础URL test_url = base_url.replace("/v1", "") response = requests.get(test_url, timeout=5) if response.status_code == 200: print("✅ 连接正常") return True else: print(f"❌ 连接失败，状态码：{response.status_code}") return False except Exception as e: print(f"❌ 连接异常：{e}") return False # 使用你的base_url测试 your_base_url = "https://gpu-pod69523bb78b8ef44ff14daa57-8000.web.gpu.csdn.net/v1" test_connection(your_base_url)

常见问题：

1. base_url错误：确保地址正确，且以/v1结尾
2. 端口错误：确保使用的是8000端口
3. 镜像未启动：确认镜像已经成功启动并运行
4. 网络问题：检查网络连接是否正常

6.2 响应速度慢怎么办？

模型响应速度受多种因素影响：

1. 首次调用较慢：第一次调用需要加载模型，可能会慢一些，后续调用会快很多
2. 问题复杂度：复杂问题需要更多计算时间
3. 网络延迟：如果服务器距离较远，可能会有网络延迟

你可以通过设置超时时间来控制等待：

# 如果现有代码响应慢，可以尝试重新配置 chat_model_fast = ChatOpenAI( model="Qwen3-1.7B", temperature=0.5, base_url="你的base_url/v1", api_key="EMPTY", streaming=True, timeout=30, # 设置30秒超时 max_retries=2, # 最多重试2次 )

6.3 回答质量不理想怎么办？

如果觉得模型的回答不够好，可以尝试：

1. 调整temperature参数：

   • 想要更准确的回答：设为0.1-0.3
   • 想要更有创意的回答：设为0.7-0.9

2. 优化提问方式：

   # 不好的提问方式 bad_prompt = "写文章" # 好的提问方式 good_prompt = """请写一篇关于人工智能未来发展的短文，要求： 1. 字数在300字左右 2. 包含技术发展、社会影响、伦理挑战三个方面 3. 语言通俗易懂，适合普通读者阅读""" response = chat_model.invoke(good_prompt) print(response.content)

3. 使用系统提示词：

   # 给模型一个角色设定 system_prompt = "你是一个资深的科技专栏作家，擅长用生动有趣的语言讲解复杂的技术概念。" user_prompt = "用通俗易懂的方式解释什么是区块链" full_prompt = f"{system_prompt}\n\n用户问题：{user_prompt}" response = chat_model.invoke(full_prompt)

6.4 内存不足怎么办？

虽然Qwen3-1.7B是轻量级模型，但在处理长文本时仍可能遇到内存问题：

# 处理长文本的技巧 long_text = "..." # 很长的文本 # 方法1：分段处理 def process_long_text(text, chunk_size=1000): chunks = [text[i:i+chunk_size] for i in range(0, len(text), chunk_size)] results = [] for chunk in chunks: prompt = f"总结这段文字的主要内容：{chunk}" response = chat_model.invoke(prompt) results.append(response.content) return " ".join(results) # 方法2：简化问题 # 不要一次性问太复杂的问题，拆分成多个简单问题

7. 进阶技巧与优化建议

当你熟悉了基本用法后，可以尝试一些进阶技巧来提升使用体验。

7.1 批量处理问题

如果你有很多问题要问，可以批量处理：

questions = [ "Python和Java有什么区别？", "如何学习机器学习？", "推荐几个适合初学者的编程项目", "解释一下什么是神经网络", ] responses = [] for question in questions: print(f"处理中：{question[:30]}...") response = chat_model.invoke(question) responses.append({ "question": question, "answer": response.content[:200] # 只保存前200字符 }) print(f" 完成！") # 查看结果 for i, item in enumerate(responses, 1): print(f"\n问题{i}：{item['question']}") print(f"回答：{item['answer']}...")

7.2 保存对话记录

如果你想保存对话历史，可以这样做：

import json from datetime import datetime class ConversationLogger: def __init__(self, filename="conversation_log.json"): self.filename = filename self.conversations = [] def add_entry(self, user_input, ai_response): entry = { "timestamp": datetime.now().isoformat(), "user": user_input, "ai": ai_response, } self.conversations.append(entry) def save(self): with open(self.filename, 'w', encoding='utf-8') as f: json.dump(self.conversations, f, ensure_ascii=False, indent=2) print(f"对话已保存到 {self.filename}") # 使用示例 logger = ConversationLogger() user_question = "人工智能的未来发展方向是什么？" response = chat_model.invoke(user_question) logger.add_entry(user_question, response.content) logger.save()

7.3 构建简单的问答系统

你可以基于这个模型构建一个简单的问答系统：

class SimpleQASystem: def __init__(self, model): self.model = model self.history = [] def ask(self, question): # 如果有历史记录，可以带上上下文 if self.history: context = "\n".join([f"Q: {q}\nA: {a}" for q, a in self.history[-3:]]) # 最近3轮对话 full_prompt = f"之前的对话：\n{context}\n\n新问题：{question}" else: full_prompt = question response = self.model.invoke(full_prompt) # 保存到历史 self.history.append((question, response.content)) # 保持历史记录不超过10轮 if len(self.history) > 10: self.history = self.history[-10:] return response.content def clear_history(self): self.history = [] print("对话历史已清空") # 使用示例 qa_system = SimpleQASystem(chat_model) print("简单问答系统已启动！输入'退出'结束对话，输入'清空'清空历史") print("-" * 50) while True: user_input = input("\n你的问题：") if user_input.lower() == '退出': print("再见！") break elif user_input.lower() == '清空': qa_system.clear_history() continue answer = qa_system.ask(user_input) print(f"\nAI回答：{answer}")

8. 总结与下一步建议

通过今天的学习，你已经掌握了在Jupyter Notebook中运行Qwen3-1.7B模型的完整流程。让我们回顾一下关键步骤：

8.1 核心要点回顾

1. 环境准备零配置：通过预配置的镜像环境，避开了繁琐的环境搭建过程
2. 代码极其简单：只需要几行Python代码就能调用大语言模型
3. 即开即用：启动镜像后立即可以开始使用，不需要等待模型下载和加载
4. 功能丰富：虽然只有17亿参数，但Qwen3-1.7B在问答、写作、翻译、代码生成等方面都有不错的表现

8.2 你可能想知道的问题

Q：这个方法需要什么样的电脑配置？A：实际上，模型是在远程服务器上运行的，你的电脑只需要能上网、能打开浏览器就行，不需要高性能GPU，甚至不需要独立显卡。

Q：这样使用是免费的吗？A：这取决于你使用的平台政策。有些平台提供免费的额度，有些可能需要付费。建议查看具体平台的使用说明。

Q：我的数据安全吗？A：由于模型是在远程服务器运行，如果你处理敏感数据，建议：

• 不要输入个人隐私信息
• 了解平台的数据隐私政策
• 对于企业敏感数据，考虑本地部署方案

Q：除了问答，还能做什么？A：Qwen3-1.7B的能力远不止简单问答，你还可以尝试：

• 文本分析和总结
• 创意写作和故事生成
• 代码审查和调试帮助
• 学习辅导和知识解答
• 多语言翻译

8.3 下一步学习建议

如果你对这个模型感兴趣，想要深入学习：

1. 了解LangChain框架：我们今天用的langchain_openai只是LangChain的一小部分，这个框架还有很多强大的功能
2. 学习提示工程：如何设计好的提示词（prompt）对模型输出质量影响很大
3. 尝试本地部署：如果你有足够的硬件资源，可以尝试在本地部署Qwen3-1.7B，获得完全的控制权
4. 探索模型微调：如果需要让模型适应特定领域，可以学习如何对模型进行微调

8.4 最后的建议

大语言模型正在改变我们与计算机交互的方式。通过今天的学习，你已经迈出了第一步。我的建议是：

1. 多实践：只有实际使用，才能真正理解模型的能力和局限
2. 从简单开始：先解决简单问题，再尝试复杂任务
3. 保持耐心：模型有时会给出不准确的回答，这是正常现象
4. 享受过程：探索AI的过程本身就应该是有趣的

记住，技术只是工具，真正的价值在于你用这个工具解决什么问题。无论是辅助学习、提高工作效率，还是开发创新应用，Qwen3-1.7B都能成为一个有用的助手。

现在，你已经具备了在Jupyter Notebook中使用大语言模型的基本能力。接下来，就是发挥你的创造力，用这个工具去解决实际问题的时刻了。祝你探索愉快！

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。