目录
- 环境检查
- 查看显卡状态
- 检查conda环境
- 跑通Ollama
- Ollama自带API
- 下载模型
- 模型“复读机”问题
- 安装openclaw
- 配置环境
- 浅浅体验一下
本人笔记本显卡是GTX1070 8G显存(算是老古董显卡了),cpu是i7-8750H 6核12线程,内存32G,在window下,尝试安装一个龙虾看看。这里展示完整安装过程,所有过程,均由本人亲测有效。
本人笔记本显卡算力很差:
不磨叽,那么开始吧。。。
(PS:本人承诺,所有文章都免费,只需点一个免费的关注即可。)
环境检查
打开cmd,运行conda,如果发现没有此命令,就需要安装conda,其次,检查python是否安装。
如果没有安装,可以看一下我写的这篇文章,有提到如何安装。 点我看文章
或者直接:点击我,下载 ,注意,需要登陆才能下载,本人用的github登陆。
conda有两个版本,我安装的mini版本,后续有啥需要就安装啥:
开始菜单中,找到Anaconda Prompt直接运行即可:
我这边的python版本如下:
查看显卡状态
命令行中输入(对应的驱动啥的都需要安装完整,如:cudnn):nvidia-smi
cudnn下载地址
检查conda环境
先打开Anaconda Prompt,转到对应目录,执行如下命令,可完成环境的创建或删除等操作。
condaenvlist# 看一下有那些环境conda create-pF:\LM\llm_propython=3.13.12#创建你的环境路径conda create-nenv_llmpython==3.13.12#创建你的环境conda remove-nllm--all#删除llm环境conda activate env_llm#激活环境跑通Ollama
安装一下Ollama吧,下载Ollama;
window下很简单,直接点击下载:点我下载OllamaSetup
如果下载慢,试一下加速链接?点我加速下载OllamaSetup
安装完成后,直接运行,在你的右下角会出现一个羊驼图标。
可以看一下安装的版本:
后发现0.6.2版本较低,这里换成了最新的:0.17.7
当然,换成最新的,显卡驱动等等我都更新了,否则无法使用。(搭建环境甚是费劲)
关于一些Ollama用法:快速使用Ollama
这里我已经拥有模型,你要是没有,可以去下载对应的模型,命令行基础用法:
ollama list ollama create qwen9b-local-fModelfile#自定义模型需要一个Modelfile文件支持ollama run qwen9b-local#运行模型ollamarmqwen9b-local#删除ollama serve如下:
运行效果:
图形化显示:
ollama本来就是图形化的,可以直接打开,同时,打开了ollama的话,本地也能web端访问,在浏览器里输入此链接以及默认端口:http://localhost:11434/
Ollama自带API
用post的方式,访问:http://localhost:11434/api/generate
举例:curl http://localhost:11434/api/generate
修改监听地址:
Windows CMD:setOLLAMA_HOST=0.0.0.0:8080 ollama serve访问地址就变成:http://localhost:8080/api/generate
下载模型
本人下载的模型是开源千问模型。如果下载模型,请点击:魔塔
在里面搜索对应的模型即可。
本人这里下载的是9B的千问模型:
Qwen3.5-9B-Q4_K_M.gguf
但是,运行后出现:可能内存不足,或者,模型下载有问题,这里重新下载后正常。
关于千问的模型,一些简易的说明:
| 模型名称 | 参数量(约) | 模型类型 | 上下文长度 | 主要特点 | 适用场景 |
|---|---|---|---|---|---|
| Qwen-Max | ~100B+ | 闭源大模型 | 32768 tokens | 最强性能,多语言、复杂推理、代码生成能力强 | 企业级应用、高复杂任务 |
| Qwen-Plus | ~50B | 闭源中等模型 | 32768 tokens | 性能与成本平衡,响应速度较快 | 中等复杂度任务、API调用 |
| Qwen-Turbo | ~10B | 闭源轻量模型 | 32768 tokens | 响应快、成本低、适合简单任务 | 聊天、简单问答、高频调用 |
| Qwen-Max-Long | ~100B+ | 闭源超长上下文版 | 200K+ tokens | 支持超长文档理解与生成 | 长文档摘要、法律/科研文本处理 |
| Qwen-Audio | - | 多模态(音频) | - | 支持语音识别与生成 | 语音助手、会议转录 |
| Qwen-VL / Qwen2-VL | ~10B(视觉部分额外) | 多模态(图像+文本) | 32768 tokens | 图像理解、图文生成 | 图像问答、内容审核、教育 |
| Qwen1 / Qwen1.5 / Qwen2 / Qwen2.5 / Qwen3(开源版) | 0.5B – 72B | 开源语言模型 | 4K–32K tokens(依版本而定) | 全系列开源,支持微调、本地部署 | 研究、私有部署、定制化开发 |
| Qwen-72B(开源最大) | 72B | 开源稠密模型 | 32768 tokens | 开源最强版本,接近闭源性能 | 高性能本地推理、学术研究 |
| Qwen-14B / Qwen-7B / Qwen-1.8B / Qwen-0.5B | 0.5B–14B | 开源小模型 | 4K–32K tokens | 轻量、高效、适合边缘设备 | 移动端、嵌入式、教学 |
补充说明: 参数量:指模型的可训练参数数量,通常越大能力越强,但对算力要求也越高。 闭源 vs 开源:Max/Plus/Turbo 等为阿里云 API 提供的闭源模型;Qwen1~Qwen3 系列中的具体尺寸(如 7B、14B)为开源模型,可在 Hugging Face 或 ModelScope 下载。 上下文长度:表示模型一次能处理的最大 token 数。Qwen-Max-Long 支持超长上下文(如 200K tokens),适合处理整本书或长报告。 多模态模型(如 VL、Audio)需额外加载视觉或音频编码器,不单纯依赖语言参数量。 ⚠️ 注意:具体参数量和性能可能因版本更新略有调整,建议参考 阿里巴巴通义实验室官网 或 ModelScope 获取最新信息。至此,一个本地模型搭建完成。
模型“复读机”问题
有时候提问,会有多次重复回答的问题,称之为“复读机”问题,那么通过修改一些参数,来减少此类问题。
PARAMETER temperature0.85# 稍微提高,增加随机性PARAMETER top_p0.9# 启用 nucleus samplingPARAMETER top_k40# 限制候选 token 范围PARAMETER repeat_penalty1.1# 抑制重复(Ollama v0.1.34+ 支持)PARAMETER stop"<|im_end|>"# 显式设置停止符,避免模型继续生成安装openclaw
来了,到这一步了…
OpenClaw(曾用名 Clawdbot)是一款 2026 年爆火的开源个人 AI 助手,GitHub 星标已超过 10 万颗。
windows版本先管理员模式,打开powershell
在安装之前,可以修改一下,如下权限,在命powershell中输入:
# 场景:你想安全地运行自己写的脚本,但又不想每次都被阻止Set-ExecutionPolicy RemoteSigned-ScopeCurrentUser# 场景:你要运行一个从 GitHub 下载的安装脚本(如 oh-my-posh、winget 等)Set-ExecutionPolicy-ScopeProcess-ExecutionPolicyBypass# 查看各作用域的策略设置:Get-ExecutionPolicy-List实际生效的策略按优先级:MachinePolicy>UserPolicy>Process>CurrentUser>LocalMachine解释:
那么,命令行,直接安装:
iwr-usebhttps://openclaw.ai/install.ps1|iex 不行试一下国内镜像:# 若下载超时,使用国内镜像脚本# iwr -useb https://clawd.org.cn/install.ps1 | iex如下,nodejs安装成功:
在安装的过程中,如果遇到错误,比如:
报错:npm error code 128 → 底层是 Git 报错,这很有可能是你没有“科学上网”哦
“科学上网”后,继续尝试。
安装成功,如下:
那么,就需要配置环境。新版先默认配置即可。
配置Gateway模式: 安装完成后,需配置并启动Gateway服务,这是提供Web控制台访问和任务执行能力的关键。
# 设置Gateway为本地模式openclaw configsetgateway.modelocal# 安装Gateway服务(创建计划任务,实现开机自启)openclaw gatewayinstall# 启动Gateway服务openclaw gateway start点我查看:关于openclaw的安装MAC系统参考链接
配置环境
按照这个要求,自己手动设置一个登陆密码。
再一次配置:
OpenClaw onboard --install-daemon选默认url地址,除非你改过,那就修改一下。
注意,这里ollama一定要有账户,且登陆状态!
我这里选择了模型是9B的本地qwen。
上面机器人,暂不设置,直接跳过即可。
搜索也以后设置吧。
技能也以后设置。网关重启后,网页就生成了。
继续配置:
至此配置完成。
浅浅体验一下
现在最新openclaw,直接命令行运行的。
# 查看 OpenClaw 状态openclaw daemon status# 启动 OpenClawopenclaw daemon start# 停止 OpenClawopenclaw daemon stop# 重启 OpenClawopenclaw daemon restartOpenClaw的后台服务叫做“Gateway”,掌握以下命令能帮你轻松管理它 :
查看服务状态:openclaw gateway status 启动服务:openclaw gateway start 重启服务:openclaw gateway restart 停止服务:openclaw gateway stop登陆网页:http://127.0.0.1:18789
准备聊天,一种植物,,,,报错:
[agent/embedded] embedded run agent end: runId=df928e3b-4b12-4494-b63a-3f273249c424 isError=true model=qwen3_5_4b-local:latest provider=ollama error=Ollama API error 400: {“error”:“registry.ollama.ai/library/qwen3_5_4b-local:latest does not support tools”}
那么,为啥呢?thking…
这个链接说:点我查看
那么ollama那边下载带有tools的模型。
来,再试一下,,,果然可以,这里下载了一个8B的千问模型,可以运行。如下:
至此完成。
那么,后续有机会,继续分享小龙虾的一些功能。