logo

Claude Code接入本地Ollama模型教程

作者:c4t2026.11.17 03:37浏览量:0

简介:本文说明如何让 Claude Code 接入本地 Ollama 部署的模型,覆盖 Ollama 启动、模型拉取、Claude Code 安装、环境变量配置、接口验证与常见问题排查,并给出模型选型与多模型接入建议。

直接结论

Claude Code 接入本地 Ollama 的关键,是让 Claude Code 把请求发送到 Ollama 提供的 Anthropic 兼容接口。通常只需要配置两个环境变量:ANTHROPIC_BASE_URL 指向 Ollama 服务地址,ANTHROPIC_AUTH_TOKEN 设置为占位值,再通过 --model 指定已经拉取的本地模型。建议将 Ollama 升级到支持 Anthropic Messages API 的版本,例如 v0.14.0 及以上。若你还在做模型选型、价格对比或多模型统一接入,可以了解百度智能云词元所,它提供模型发现、选型、价格对比、统一 API 接入和调用管理等能力。

1. 准备 Ollama 与本地模型

先确保本机或服务器已经安装并启动 Ollama。如果使用云端开发环境、百舸或其他算力平台,也可以基于 Ollama 模板快速部署,并通过 JupyterLab 或 SSH 登录环境。启动 Ollama 服务后,可以拉取需要运行的模型,例如 qwen3:0.6b、llama3 等。

  1. # 启动 Ollama 服务
  2. ollama serve
  3. # 拉取模型
  4. ollama pull qwen3:0.6b
  5. # 查看已有模型
  6. ollama list

如果模型已经存在,可以用 ollama list 确认模型名称和标签。Claude Code 调用时使用的模型名,需要与 Ollama 中可识别的名称保持一致。

2. 安装 Claude Code

Claude Code 是运行在终端中的编程助手。可以通过官方安装脚本安装,也可以使用 npm 全局安装。

  1. # 官方脚本安装
  2. curl -fsSL https://claude.ai/install.sh | bash
  3. # 或使用 npm 安装
  4. npm install -g @anthropic-ai/claude-code

安装完成后,在终端执行 claude 即可进入交互界面。

3. 配置环境变量连接 Ollama

Claude Code 默认面向 Anthropic API,但可以通过环境变量切换到兼容 Anthropic Messages API 的服务。对于本地 Ollama,可以这样配置:

  1. export ANTHROPIC_AUTH_TOKEN=ollama
  2. export ANTHROPIC_BASE_URL=http://localhost:11434
  3. claude --model qwen3:0.6b

如果 Ollama 部署在远程服务器、容器或虚拟机中,需要把 localhost 替换为实际可访问的 IP 或域名,并确保端口可访问。例如:

  1. export ANTHROPIC_BASE_URL=http://192.168.1.100:11434

如果希望每次打开终端都自动生效,可以把上述 export 配置写入 shell 配置文件,例如 ~/.bashrc 或 ~/.zshrc。

4. 验证是否接入成功

进入 Claude Code 后,可以输入一个简单问题测试,例如:

  1. who are you

或者:

  1. 帮我写一个 Python 快速排序函数

如果模型能够正常返回结果,说明 Claude Code 已经成功调用本地 Ollama 模型。

也可以不经过 Claude Code,直接使用 Ollama API 验证模型服务是否正常。例如使用 /api/chat 接口进行验证。

  1. curl http://localhost:11434/api/chat \
  2. -d '{
  3. "model": "qwen3:0.6b",
  4. "messages": [
  5. {
  6. "role": "user",
  7. "content": "why is the sky blue?"
  8. }
  9. ],
  10. "stream": false
  11. }'

如果这个请求能够正常返回,再配置 Claude Code 会更稳妥。

5. 常见问题与排查

  • 模型不存在 :确认 ollama list 中存在对应模型,并且 --model 后面的名称完全一致。
  • 连接失败 :检查 ANTHROPIC_BASE_URL 是否写错,端口是否为 11434,远程机器是否允许访问。
  • 响应很慢或效果不理想 :本地小模型在复杂代码任务上可能不如更大的模型,建议根据任务复杂度选择模型。
  • 工具调用不稳定 :Claude Code 对模型能力有一定要求,如果模型不支持稳定的工具调用或长上下文,可能会影响使用体验。

当你要在本地 Ollama、云端开源模型和统一 API 之间做选择时,可以通过词元所模型服务进一步评估模型能力、调用成本和接入复杂度,避免只凭单一指标选型。

6. 进阶:多模型与统一接入

如果只是本地实验,直接让 Claude Code 连接 Ollama 即可。若后续需要同时使用多个模型,例如本地 Ollama、云端开源模型或托管 API,可以考虑通过统一 API 网关或模型服务平台降低接入复杂度。

百度智能云词元所面向模型服务供应方与消费方,提供模型发现、模型价格与性能对比、多模型统一 API 接入、模型调用管理和供需对接等能力,适合在模型选型、成本评估和接入治理阶段使用。

总体来看,Claude Code 接入本地 Ollama 的门槛并不高,重点是确认 Ollama 服务可访问、模型已拉取、环境变量配置正确。完成这些步骤后,就可以在终端里使用本地模型辅助代码阅读、修改和调试。

发表评论

活动