
想要在完全离线、隐私可控的环境中运行 AI 代理？**Ollama** 是目前最流行的本地 LLM（大语言模型）运行时，支持一键拉取和运行如 Llama、Mistral、GLM、Qwen 等开源模型。而 **OpenClaw** 作为先进的 AI 代理操作系统，已深度集成 Ollama，不仅支持自动发现本地模型，还完整保留了**流式输出**与**工具调用（Tool Calling）** 能力——这一切只需简单配置即可实现。

本文将带你从零开始，在 OpenClaw 中启用 Ollama，并充分发挥本地模型的强大能力。


----

## 为什么选择 Ollama + OpenClaw？


- ✅ **完全本地运行**：数据不出设备，保障隐私与安全。

- ✅ **开箱即用**：`ollama pull` 一行命令即可部署数十种开源模型。

- ✅ **智能工具调用**：通过 Ollama 原生 API（非 OpenAI 兼容模式），确保函数调用可靠执行。

- ✅ **自动模型发现**：无需手动维护模型列表，新拉取的模型立即可用。

- ✅ **零成本**：本地推理，无 API 调用费用。


----

## 快速上手：四步启动本地 AI 代理


### 第一步：安装 Ollama


前往 https://ollama.com/download  下载并安装 Ollama（支持 macOS、Windows、Linux）。

### 第二步：拉取一个本地模型


```
# 推荐：轻量高效中文模型
ollama pull glm-4.7-flash

# 或通用英文模型
ollama pull llama3.3
ollama pull mistral
```
>💡 你也可以使用 `ollama list` 查看已安装的模型。


### 第三步：运行 OpenClaw Onboard 并选择 Ollama


```
openclaw onboard
```
在交互式菜单中选择：


- **`Local`**：仅使用本地模型（推荐用于纯离线场景）

- **`Cloud + Local`**：同时访问 Ollama Cloud 模型（如 `kimi-k2.5:cloud`），无需本地下载


OpenClaw 默认建议：


- 本地默认模型：`glm-4.7-flash`

- 云模型默认：`kimi-k2.5:cloud`, `glm-5:cloud`


### 第四步：设置默认模型


```
# 通过 CLI 设置
openclaw models set ollama/glm-4.7-flash

# 或在 openclaw.json 中配置
{
  "agents": {
    "defaults": {
      "model": { "primary": "ollama/glm-4.7-flash" }
    }
  }
}
```
完成！你的 OpenClaw 代理现在正在使用本地 Ollama 模型运行。


----

## 核心机制：自动模型发现（Implicit Provider）


OpenClaw 的智能之处在于其**隐式提供商标识**机制：

只要满足以下两个条件：


1. 设置了 `OLLAMA_API_KEY`（任意值，如 `"ollama-local"`）

2. **未**在配置中显式定义 `models.providers.ollama`


OpenClaw 就会自动：


- 连接到 `http://127.0.0.1:11434`

- 调用 `/api/tags` 获取所有本地模型

- 通过 `/api/show` 尝试读取上下文窗口等元数据

- 自动标记含 `r1`、`reasoning`、`think` 的模型为“推理模型”

- 所有成本设为 `$0`


>🔄 **动态更新**：每当你运行 `ollama pull new-model`，新模型会**立即**出现在 `openclaw models list` 中，无需重启或修改配置！


----

## ⚠️ 重要警告：不要使用 `/v1` OpenAI 兼容端点！


Ollama 提供两种 API 模式：


- **原生 API**：`http://host:11434` → 支持**可靠工具调用 + 流式输出**

- **OpenAI 兼容 API**：`http://host:11434/v1` → **工具调用不可靠**，可能输出原始 JSON 文本


**OpenClaw 强烈推荐使用原生 API**。
因此，配置中的 `baseUrl` **绝不能包含 `/v1`**：

✅ 正确：

```
{ "baseUrl": "http://localhost:11434" }
```
❌ 错误：

```
{ "baseUrl": "http://localhost:11434/v1" } // 会导致工具调用失效！
```


----

## 高级配置场景


### 场景 1：Ollama 运行在远程主机


若 Ollama 部署在另一台机器上，需显式配置：

```
{
  "models": {
    "providers": {
      "ollama": {
        "apiKey": "ollama-local",
        "baseUrl": "http://192.168.1.100:11434", // 无 /v1
        "api": "ollama",
        "models": [
          { "id": "llama3.3", "contextWindow": 8192, "maxTokens": 2048 }
          // 需手动列出模型（自动发现仅限 localhost）
        ]
      }
    }
  }
}
```
### 场景 2：强制使用 OpenAI 兼容模式（不推荐）


仅在必须通过 OpenAI 格式代理时使用，并禁用流式：

```
{
  "models": {
    "providers": {
      "ollama": {
        "baseUrl": "http://localhost:11434/v1",
        "api": "openai-completions",
        "injectNumCtxForOpenAICompat": true,
        "models": [/* ... */]
      }
    }
  },
  "agents": {
    "defaults": {
      "models": {
        "ollama/llama3.3": {
          "params": { "streaming": false } // 避免冲突
        }
      }
    }
  }
}
```


----

## 故障排查


|问题|解决方案|
|:-:|:-:|
|OpenClaw 找不到 Ollama|确保 `OLLAMA_API_KEY` 已设置，且**未**定义 `models.providers.ollama`|
|模型未出现在列表中|运行 `ollama pull <model>` 安装模型|
|连接被拒绝|运行 `ollama serve` 启动服务，检查端口是否为 11434|
|工具调用失效|检查 `baseUrl` 是否误加了 `/v1`|


----

## 总结


通过 OpenClaw 与 Ollama 的深度集成，你可以在本地轻松构建一个功能完整、隐私安全、成本为零的 AI 代理系统。无论是开发测试、企业内网部署，还是个人知识管理，这套组合都提供了极高的灵活性与可靠性。

**现在就开始：**

```
ollama pull glm-4.7-flash
export OLLAMA_API_KEY="ollama-local"
openclaw onboard  # 选择 Ollama
```
让你的 AI 代理，真正运行在你的掌控之中。

想要在完全离线、隐私可控的环境中运行 AI 代理？Ollama 是目前最流行的本地 LLM（大语言模型）运行时，支持一键拉取和运行如 Llama、Mistral、GLM、Qwen 等开源模型。而 OpenClaw 作为先进的 AI 代理操作系统，已深度集成 Ollama，不仅支持自动发现本地模型，还完整保留了流式输出与工具调用（Tool Calling） 能力——这一切只需简单配置即可实现。

OpenClaw 与 Ollama 深度集成-本地轻松构建一个功能完整、隐私安全、成本为零的AI 代理

人工智能

云计算

客户端

Ollama+OpenClaw实现本地AI代理部署，支持Llama、Mistral等开源模型，保障数据隐私安全。一键安装Ollama后，OpenClaw自动发现本地模型，保留流式输出和工具调用功能。四步快速启动：下载Ollama、拉取模型、运行OpenClaw、设置默认模型。完全离线运行，零API费用，智能工具调用，新模型自动识别。

Windows

Linux

JSON

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

社区新版编辑器体验调研

Ollama+OpenClaw实现本地AI代理部署，支持Llama、Mistral等开源模型，保障数据隐私安全。一键安装Ollama后，OpenClaw自动发现本地模型，保留流式输出和工具调用功能。四步快速启动：下载Ollama、拉取模型、运行OpenClaw、设置默认模型。完全离线运行，零API费用，智能工具调用，新...

OpenClaw 与 Ollama 深度集成-本地轻松构建一个功能完整、隐私安全、成本为零的AI 代理-腾讯云开发者社区-腾讯云

OpenClaw 与 Ollama 深度集成-本地轻松构建一个功能完整、隐私安全、成本为零的AI 代理

OpenClaw 与 Ollama 深度集成-本地轻松构建一个功能完整、隐私安全、成本为零的AI 代理

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐