Ollama MCP с ChatGPT: модели и чат

💡 Не хочешь устанавливать? Используй cloud.anythingmcp.com напрямую. Войди, нажми Connectors → Ollama, вставь свои учётные данные, создай ключ MCP API — готово. Без Docker, без git clone, без локального сервера.

Ollama + ChatGPT

Дай своему ИИ возможность работать с open-weight моделями, такими как Gemma, Llama, Qwen, Mistral и DeepSeek, запущенными на твоём собственном сервере Ollama (или в Ollama Cloud): получай список установленных и загруженных моделей, читай сведения о модели и её возможности, веди чат, генерируй текст и создавай эмбеддинги, не отправляя данные хостируемому ИИ-провайдеру.

Требования

Полные инструкции по настройке встроены в коннектор (они видны в магазине внутри приложения, когда ты выбираешь коннектор). Необходимые переменные окружения для этого коннектора:

OLLAMA_URL

Шаг 1 — Получи учётные данные

Настройка занимает около 2 минут. Тебе нужен сервер Ollama, доступный для AnythingMCP, с хотя бы одной загруженной (pulled) моделью, либо API-ключ Ollama Cloud.

1. Установи Ollama с https://ollama.com/download и загрузи модель, например ollama pull gemma3.
2. Укажи базовый URL сервера без /api в OLLAMA_URL, например http://localhost:11434 (порт Ollama по умолчанию). Если AnythingMCP работает в Docker, а Ollama — на хосте, используй http://host.docker.internal:11434. Если Ollama запущен на другой машине, запусти его там с OLLAMA_HOST=0.0.0.0 и используй адрес этой машины.
3. Self-hosted AnythingMCP: добавь этот хост (например, localhost, host.docker.internal или IP сервера) в SSRF_ALLOWED_HOSTS на бэкенде AnythingMCP, который по умолчанию блокирует локальные и приватные адреса. AnythingMCP Cloud не может обратиться к серверу на твоей собственной машине или в твоей сети: используй Ollama Cloud (шаг 4) или сервер Ollama с публичным адресом.
4. Для локального сервера оставь OLLAMA_API_KEY пустым. Для Ollama Cloud задай OLLAMA_URL равным https://ollama.com и вставь ключ с https://ollama.com/settings/keys. Для сервера за обратным прокси, который проверяет токен, укажи здесь bearer-токен прокси. Ключ отправляется как Authorization: Bearer только если он задан.
5. Установи коннектор и выполни ollama_get_version: результат покажет, что сервер отвечает.

Что он делает: ollama_list_models выводит список установленных моделей с семейством, размером параметров и квантизацией, а ollama_list_running_models показывает, какие из них сейчас загружены в память. ollama_show_model возвращает возможности модели (completion, vision, tools, thinking, embedding), длину контекста, параметры и шаблон промпта, чтобы ИИ мог проверить, что поддерживает модель, прежде чем отправлять изображения или инструменты. ollama_chat ведёт диалог с системным промптом, историей, изображениями для vision-моделей, вызовом инструментов, JSON-выводом и режимом thinking. ollama_generate отвечает на одиночный промпт, включая fill-in-the-middle через suffix на моделях для кода. ollama_embed создаёт векторы эмбеддингов с помощью модели эмбеддингов, например embeddinggemma или nomic-embed-text. Промпты и ответы остаются на твоём собственном сервере.

Скорость и стоимость: ответы не передаются потоком. Первый вызов модели, которая не загружена, также загружает её, что занимает от нескольких секунд до минуты на больших моделях (load_duration в результате показывает это время в наносекундах). Локальный сервер бесплатен; использование Ollama Cloud засчитывается в тариф твоего аккаунта. Вывод модели может быть ошибочным или содержать инструкции, поэтому ИИ воспринимает его как данные, а не как команды.

Частые ошибки: «connection refused» или блокировка означает, что Ollama не запущен по адресу OLLAMA_URL, он слушает только 127.0.0.1 другой машины или хоста нет в SSRF_ALLOWED_HOSTS. Ошибка 404 model 'x' not found означает, что модель не установлена: выполни ollama pull x на сервере. Ошибка 400 does not support tools/thinking/insert или ошибка эмбеддинга означает, что модель не поддерживает эту возможность (проверь через ollama_show_model). Ошибка 401 в Ollama Cloud означает, что API-ключ отсутствует или неверен.

Коннектор не загружает (pull), не отправляет (push), не копирует, не создаёт и не удаляет модели, поэтому он никогда не меняет то, что установлено на твоём сервере.

Шаг 2 — Установи адаптер

curl -fsSL https://raw.githubusercontent.com/HelpCode-ai/anythingmcp/main/docker-compose.quickstart.yml -o docker-compose.yml
printf 'JWT_SECRET=%s\nENCRYPTION_KEY=%s\n' "$(openssl rand -hex 32)" "$(openssl rand -hex 32)" > .env
docker compose up -d

Шаг 3 — Добавь коннектор в ChatGPT

URL твоего сервера: в AnythingMCP открой MCP Servers → сервер, на котором находится этот коннектор, и скопируй его URL (https://cloud.anythingmcp.com/mcp/…). Используй его везде, где в этом руководстве указано YOUR_SERVER_ID.

ChatGPT добавляет MCP-серверы как плагины на странице Plugins, в веб-версии и на платных тарифах. Режим разработчика (Developer mode) больше не нужен. В рабочем пространстве Business добавить сервер могут только администраторы и владельцы; в Enterprise и Edu администратор может выдать разрешение Create plugins with MCPs.

1. Перейди на chatgpt.com/plugins, нажми Add, затем Add custom MCP server.
2. Введи название, например Name: Ollama.
3. В разделе Connection введи Server URL https://cloud.anythingmcp.com/mcp/YOUR_SERVER_ID и оставь Authentication на OAuth.
4. Выбери I understand and want to continue, затем Create as a plugin. Когда ChatGPT попросит, войди в AnythingMCP и разреши доступ.
5. Установи новый плагин из своих личных плагинов, затем набери @ в чате и выбери его.

Доступные инструменты

FAQ

Работает ли бесплатный тариф ChatGPT с пользовательскими MCP-серверами? OpenAI описывает пользовательские MCP-серверы только для платных тарифов; бесплатного тарифа (Free) в этом списке нет.

Дальнейшие шаги

• Страница коннектора
• Подключение к Claude