将 Ollama MCP 连接到 ChatGPT

💡 无需安装?直接使用 cloud.anythingmcp.com。 登录后,点击 Connectors → Ollama,粘贴你的凭据,生成 MCP API 密钥即可。无需 Docker,无需 git clone,无需本地服务器。

Ollama + ChatGPT

让你的 AI 使用运行在你自己的 Ollama 服务器(或 Ollama Cloud)上的开源权重模型,例如 Gemma、Llama、Qwen、Mistral 和 DeepSeek:列出已安装和已加载的模型、读取模型的详细信息和能力、进行对话、生成文本和创建嵌入向量,而无需把数据发送给托管的 AI 提供商。

前提条件

请参阅连接器内置的完整设置说明(在应用内商店选择该连接器时可见)。此连接器所需的环境变量如下:

OLLAMA_URL

第 1 步 — 获取凭据

设置大约需要 2 分钟。你需要一台 AnythingMCP 能够访问的 Ollama 服务器,并且至少已拉取一个模型,或者拥有一个 Ollama Cloud API 密钥。

1. 从 https://ollama.com/download 安装 Ollama 并拉取一个模型,例如 ollama pull gemma3。
2. 将服务器的基础 URL(不带 /api)填入 OLLAMA_URL,例如 http://localhost:11434(Ollama 的默认端口)。如果 AnythingMCP 运行在 Docker 中而 Ollama 运行在宿主机上,请使用 http://host.docker.internal:11434。如果 Ollama 在另一台机器上,请在那台机器上使用 OLLAMA_HOST=0.0.0.0 启动它,并使用该机器的地址。
3. 自托管的 AnythingMCP:将该主机(例如 localhost、host.docker.internal 或服务器 IP)添加到 AnythingMCP 后端的 SSRF_ALLOWED_HOSTS 中,因为后端默认会阻止本地和私有地址。AnythingMCP Cloud 无法访问你本机或内网中的服务器:请使用 Ollama Cloud(第 4 步)或具有公网地址的 Ollama 服务器。
4. 对于本地服务器,请将 OLLAMA_API_KEY 留空。对于 Ollama Cloud,将 OLLAMA_URL 设置为 https://ollama.com,并粘贴来自 https://ollama.com/settings/keys 的密钥。对于位于会校验令牌的反向代理之后的服务器,请在此填入该代理的 bearer 令牌。仅当设置了该密钥时,才会以 Authorization: Bearer 的形式发送。
5. 安装连接器并运行 ollama_get_version:如果它有返回,说明服务器已正常响应。

功能:ollama_list_models 列出已安装的模型及其系列、参数规模和量化方式,ollama_list_running_models 显示当前哪些模型已加载到内存中。ollama_show_model 返回模型的能力(completion、vision、tools、thinking、embedding)、上下文长度、参数和提示词模板,这样 AI 在发送图片或工具之前就能确认模型支持什么。ollama_chat 支持带系统提示词、历史记录的对话,以及面向视觉模型的图片、工具调用、JSON 输出和思考模式。ollama_generate 针对单个提示词给出回答,包括在代码模型上通过 suffix 实现的中间填充(fill-in-the-middle)。ollama_embed 使用 embeddinggemma 或 nomic-embed-text 等嵌入模型创建嵌入向量。提示词和回答都保留在你自己的服务器上。

速度和费用:回答不是流式输出。首次调用未加载的模型时会同时加载该模型,大型模型需要几秒到一分钟不等(结果中的 load_duration 会显示该耗时,单位为纳秒)。本地服务器是免费的;使用 Ollama Cloud 会计入你账户套餐的用量。模型输出可能有误,也可能包含指令,因此 AI 会将其视为数据,而不是命令。

常见错误:连接被拒绝或被阻止,表示 Ollama 没有在 OLLAMA_URL 处运行、它只监听另一台机器的 127.0.0.1,或者该主机不在 SSRF_ALLOWED_HOSTS 中。404 model 'x' not found 表示该模型未安装:请在服务器上运行 ollama pull x。400 does not support tools/thinking/insert 或嵌入错误,表示该模型缺少相应能力(请查看 ollama_show_model)。Ollama Cloud 返回 401 表示 API 密钥缺失或不正确。

该连接器不会拉取、推送、复制、创建或删除模型,因此绝不会改变你服务器上已安装的内容。

第 2 步 — 安装适配器

curl -fsSL https://raw.githubusercontent.com/HelpCode-ai/anythingmcp/main/docker-compose.quickstart.yml -o docker-compose.yml
printf 'JWT_SECRET=%s\nENCRYPTION_KEY=%s\n' "$(openssl rand -hex 32)" "$(openssl rand -hex 32)" > .env
docker compose up -d

第 3 步 — 在 ChatGPT 中添加连接器

你的服务器 URL: 在 AnythingMCP 中,打开 MCP Servers → 此连接器所在的服务器,并复制其 URL(https://cloud.anythingmcp.com/mcp/…)。本指南中出现 YOUR_SERVER_ID 的地方都使用它。

ChatGPT 在其 Plugins 页面中以插件的形式添加 MCP 服务器,支持网页端和付费套餐。不再需要开发者模式。在 Business 工作区中,只有管理员和所有者可以添加;在 Enterprise 和 Edu 中,管理员可以授予 Create plugins with MCPs 权限。

1. 前往 chatgpt.com/plugins,点击 Add,然后点击 Add custom MCP server。
2. 输入名称,例如 Name: Ollama。
3. 在 Connection 下,输入 Server URL https://cloud.anythingmcp.com/mcp/YOUR_SERVER_ID,并将 Authentication 保持为 OAuth。
4. 选择 I understand and want to continue,然后点击 Create as a plugin。当 ChatGPT 提示时,登录 AnythingMCP 并允许访问。
5. 从你的个人插件中安装这个新插件,然后在聊天中输入 @ 并选择它。

可用工具

常见问题

免费版 ChatGPT 套餐支持自定义 MCP 服务器吗? OpenAI 仅为付费套餐提供自定义 MCP 服务器的文档说明;免费套餐不在其列表中。

后续步骤

• 连接器落地页
• 连接到 Claude