新手必看:InternLM2-Chat-1.8B的Anaconda环境隔离部署教程
你是不是刚接触AI模型,想试试InternLM2-Chat-1.8B,结果被一堆Python包版本冲突搞得头大?或者你电脑上已经有好几个项目,每次运行新模型都担心把旧环境搞乱?
别担心,今天我就带你用一个特别适合新手的“隔离”方法来部署它。这个方法的核心工具叫Anaconda,你可以把它理解成一个“环境管理器”。它能帮你在电脑里创建一个个独立的小房间(环境),每个房间里的Python版本、各种工具包(比如PyTorch)都互不干扰。你在A房间折腾InternLM2,哪怕把包装乱了,也完全不会影响B房间里的其他项目。
这篇文章,我就手把手教你,从零开始,用Anaconda为InternLM2-Chat-1.8B搭建一个专属的、干净的小房间,并成功运行起来。整个过程就像跟着说明书搭积木,一步一步来,保证清晰。
1. 第一步:准备好你的“工具箱”——安装Anaconda
工欲善其事,必先利其器。我们首先得把“环境管理器”Anaconda请到你的电脑上。
1.1 下载Anaconda安装包
- 打开你的浏览器,访问Anaconda的官方网站。你可以直接搜索“Anaconda”找到它。
- 在网站上找到下载页面,选择适合你电脑操作系统的版本。如果你是Windows用户,就下载Windows版本;如果是Mac,就选macOS版本。通常选择图形化安装程序(.exe或.pkg文件)对新手最友好。
- 下载时,建议选择Python 3.9或3.10版本的安装包,这和我们后续要安装的PyTorch等依赖兼容性更好。
1.2 安装并验证
下载完成后,运行安装程序。安装过程基本就是一路“Next”或“继续”,但有几点需要注意:
- 安装路径:建议使用默认路径,或者选一个你容易找到的、路径里没有中文和空格的文件夹。
- 高级选项:在安装的最后一步,通常会有一个“Add Anaconda to my PATH environment variable”的选项。强烈建议你勾选它。这能让你在电脑的任何地方都能方便地使用Anaconda命令。如果安装时忘了勾选,后续需要手动配置,会稍微麻烦一点。
安装完成后,我们来验证一下是否成功。
- Windows用户:打开“开始”菜单,找到并打开“Anaconda Prompt (Anaconda3)”。这是一个专门为Anaconda配置的命令行窗口。
- Mac/Linux用户:打开你的“终端”(Terminal)。
在打开的命令行窗口中,输入以下命令并回车:
conda --version如果安装成功,你会看到类似conda 23.11.0这样的版本号信息。同时,输入python --version也能看到Python的版本,这说明Anaconda自带的Python也装好了。
恭喜你,最重要的“工具箱”已经就位!
2. 第二步:为模型创建专属“小房间”——配置Conda环境
现在,我们要用Anaconda(conda)来创建那个独立的“小房间”了。
2.1 创建新的隔离环境
在刚才的Anaconda Prompt或终端里,我们输入创建环境的命令。这里我们给这个房间起名叫lm-env,并指定使用Python 3.9:
conda create -n lm-env python=3.9执行命令后,conda会列出将要安装的包,并问你是否继续 (Proceed ([y]/n)?),输入y然后回车,它就会自动下载并安装一个干净的Python 3.9环境。
2.2 进入你的专属环境
房间建好了,我们得走进去才能开始布置。使用下面的命令“激活”环境:
conda activate lm-env激活成功后,你会发现命令行的提示符前面,从(base)变成了(lm-env)。这个变化非常重要,它意味着你之后所有的操作,比如安装包、运行程序,都只在这个lm-env环境里生效,不会影响到电脑上其他地方。
你可以随时用conda deactivate命令退出当前环境,回到基础的(base)环境。
3. 第三步:布置“房间”家具——安装核心依赖
现在我们在lm-env这个干净的环境里,开始安装运行InternLM2所必需的“家具”,主要是PyTorch。
3.1 安装PyTorch
PyTorch是运行大多数AI模型的基石。我们去PyTorch官网查看安装命令是最稳妥的。根据你的电脑是否有NVIDIA显卡(GPU),选择不同的命令。
- 如果你有NVIDIA显卡,并且想用GPU加速(推荐): 访问PyTorch官网,选择适合你CUDA版本的命令。例如,对于CUDA 11.8,命令可能类似:
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118 - 如果你没有显卡,或只想用CPU运行: 命令会更简单:
pip install torch torchvision torchaudio
请注意:请以PyTorch官网生成的最新命令为准。安装完成后,可以在Python里简单验证一下:
import torch print(torch.__version__) # 查看PyTorch版本 print(torch.cuda.is_available()) # 如果返回True,说明GPU可用3.2 安装其他必要工具包
除了PyTorch,我们还需要一些辅助工具。在(lm-env)环境下,继续用pip安装:
pip install transformers sentencepiece acceleratetransformers:Hugging Face提供的库,包含了InternLM2等成千上万个预训练模型,是我们加载和运行模型的关键。sentencepiece:用于模型分词(理解你的输入文字)。accelerate:帮助优化模型在CPU或GPU上的运行效率。
4. 第四步:邀请“主角”入住并对话——运行InternLM2
环境一切就绪,现在让我们把InternLM2-Chat-1.8B模型请进来,并和它打个招呼。
4.1 编写一个简单的对话脚本
在你电脑上找个合适的地方(比如桌面),新建一个文本文件,把它重命名为chat_with_internlm.py。然后用代码编辑器(比如VSCode、记事本++,甚至系统自带的记事本都可以)打开它,把下面的代码复制进去:
# chat_with_internlm.py from transformers import AutoTokenizer, AutoModelForCausalLM # 1. 指定模型名称(Hugging Face上的模型ID) model_name = "internlm/internlm2-chat-1_8b" # 2. 加载分词器和模型 print("正在加载模型,请稍候...这可能需要几分钟,取决于你的网速。") tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True) model = AutoModelForCausalLM.from_pretrained(model_name, trust_remote_code=True).cuda() # 如果有GPU,用.cuda()放到显卡上 print("模型加载成功!") # 3. 准备对话历史(对于聊天模型,通常需要维护一个历史列表) history = [] # 4. 开始对话循环 print("\n开始与InternLM2对话吧!输入 'quit' 或 '退出' 来结束。") while True: # 获取用户输入 user_input = input("\n你: ") if user_input.lower() in ['quit', '退出', 'exit']: print("对话结束,再见!") break # 将用户输入和历史一起交给模型,生成回复 response, history = model.chat(tokenizer, user_input, history=history) # 打印模型的回复 print(f"\nInternLM2: {response}")这段代码做了几件事:
- 告诉程序去 Hugging Face 模型库下载
internlm/internlm2-chat-1_8b这个模型。 - 加载模型和对应的分词器。
- 设置一个简单的循环,让你可以持续输入问题,并看到模型的回答。
4.2 运行脚本,开始聊天
确保你的命令行窗口还处在(lm-env)环境中。然后,使用cd命令切换到存放chat_with_internlm.py文件的目录。例如,如果你的文件在桌面:
cd Desktop接着,运行我们的脚本:
python chat_with_internlm.py第一次运行会下载模型文件(大约3-4GB),需要一些时间,请保持网络通畅。下载完成后,程序会提示“模型加载成功!”。然后你就可以在“你:”的提示后输入任何问题,比如“你好,请介绍一下你自己”,看看InternLM2会如何回答。
5. 总结与后续建议
走完上面四步,你应该已经成功在Anaconda创建的隔离环境里,让InternLM2-Chat-1.8B运行起来了。这个方法最大的好处就是“干净”,你为这个模型安装的所有包,都乖乖待在lm-env这个环境里。以后你玩别的模型,完全可以再创建一个新环境,比如sd-env(玩Stable Diffusion),两个环境互不打扰,再也不用担心包版本打架了。
用下来感觉,对于新手来说,前期花一点时间配置好Anaconda环境,后期能省去很多麻烦。如果中途遇到任何报错,最常见的原因就是网络问题导致包下载失败,或者PyTorch版本与CUDA不匹配。多检查一下命令,或者去网上搜一下具体的错误信息,通常都能找到解决方案。
下次如果你想尝试其他模型,流程也基本一样:创建新环境 -> 激活 -> 安装依赖 -> 运行。祝你玩得开心,探索出更多AI对话的乐趣!
获取更多AI镜像
想探索更多AI镜像和应用场景?访问 CSDN星图镜像广场,提供丰富的预置镜像,覆盖大模型推理、图像生成、视频生成、模型微调等多个领域,支持一键部署。