一 基础环境配置
根据Linux系统版本安装对应ollama,本文不作出详细描述。
二 下载并配置CodeGeex4模型
1.下载gguf文件
- 访问地址模型库,根据需要选择版本。
2.将模型导入ollama
- 进入对应模型文件夹,将下载的模型拷贝至当前目录下。
cd/home/ollama/models- 生成配置文件
echo"FROM ./codegeex4-all-q4_0.gguf">Modelfile注意:若ollama已加载其他模型,不可直接修改原有的Modelfile文件,也不可将Modelfile复制后再修改其中内容,会出现 “invalid model name” 错误 。
- 创建模型
ollama create codegeex4-f/home/ollama/models/Modelfile- 验证模型列表 出现codegeex4表示加载成功
ollama list三 修改ollama配置
为了使不同的主机都可以访问配置的codegeex4模型,需要增加部分配置
- 打开配置文件
nano~/.bashrc- 在文件末尾追加
# 配置跨域exportOLLAMA_ORIGINS="*"# 外部访问端口exportOLLAMA_HOST="0.0.0.0:11434"保存(Ctrl + o)并退出 (Ctrl + x)
- 生效配置文件
source~/.bashrc- 重启ollama
- 测试本地连接
curlhttp://localhost:11434/api/tags- 测试远程连接
curlhttp://服务器IP:11434/api/tags输出具体信息表示配置正确。
四 下载并安装idea codegeex4插件
- 插件库地址,选择idea对应版本的插件。
- 离线安装插件
- 配置codegeex4本地模式
- 配置模型地址和模型名称
- 模型地址
http://服务器IP:11434/v1/chat/completions- 模型名称
codegeex4点击连接,成功后则全部配置完毕。