Ollama MCP-сервер: модели и чат

💡 Не хочешь ничего устанавливать? Используй cloud.anythingmcp.com напрямую. Войди в аккаунт, нажми Connectors → Ollama, вставь свои учётные данные, создай API-ключ MCP — готово. Без Docker, без git clone, без локального сервера.

Ollama

Позволь своему ИИ использовать модели с открытыми весами, такие как Gemma, Llama, Qwen, Mistral и DeepSeek, которые работают на твоём собственном сервере Ollama (или в Ollama Cloud): получай список установленных и загруженных моделей, читай сведения о модели и её возможности, общайся в чате, генерируй текст и создавай эмбеддинги, не отправляя данные стороннему ИИ-провайдеру.

Настройка

Настройка занимает около 2 минут. Тебе нужен сервер Ollama, доступный для AnythingMCP, с хотя бы одной загруженной (pull) моделью, либо API-ключ Ollama Cloud.

1. Установи Ollama со страницы https://ollama.com/download и загрузи модель, например ollama pull gemma3.
2. Укажи базовый URL сервера без /api в OLLAMA_URL, например http://localhost:11434 (порт Ollama по умолчанию). Если AnythingMCP работает в Docker, а Ollama — на хосте, используй http://host.docker.internal:11434. Если Ollama работает на другой машине, запусти его там с OLLAMA_HOST=0.0.0.0 и используй адрес этой машины.
3. Self-hosted AnythingMCP: добавь этот хост (например, localhost, host.docker.internal или IP сервера) в SSRF_ALLOWED_HOSTS на бэкенде AnythingMCP, который по умолчанию блокирует локальные и приватные адреса. AnythingMCP Cloud не может обратиться к серверу на твоей машине или в твоей сети: используй Ollama Cloud (шаг 4) или сервер Ollama с публичным адресом.
4. Для локального сервера оставь OLLAMA_API_KEY пустым. Для Ollama Cloud задай OLLAMA_URL равным https://ollama.com и вставь ключ со страницы https://ollama.com/settings/keys. Для сервера за обратным прокси, который проверяет токен, укажи здесь bearer-токен прокси. Ключ отправляется как Authorization: Bearer только если он задан.
5. Установи коннектор и выполни ollama_get_version: он покажет, что сервер отвечает.

Что он умеет: ollama_list_models выводит список установленных моделей с семейством, размером параметров и квантизацией, а ollama_list_running_models показывает, какие из них сейчас загружены в память. ollama_show_model возвращает возможности модели (completion, vision, tools, thinking, embedding), длину контекста, параметры и шаблон промпта, чтобы ИИ мог проверить, что модель поддерживает, прежде чем отправлять изображения или инструменты. ollama_chat ведёт диалог с системным промптом, историей, изображениями для vision-моделей, вызовом инструментов, JSON-выводом и режимом thinking. ollama_generate отвечает на один промпт, включая fill-in-the-middle через suffix на моделях для кода. ollama_embed создаёт векторы эмбеддингов с помощью модели эмбеддингов, например embeddinggemma или nomic-embed-text. Промпты и ответы остаются на твоём собственном сервере.

Скорость и стоимость: ответы не передаются потоком. Первый вызов модели, которая не загружена, также загружает её, что занимает от нескольких секунд до минуты на больших моделях (load_duration в результате показывает это время в наносекундах). Локальный сервер бесплатен; использование Ollama Cloud учитывается в тарифном плане твоего аккаунта. Вывод модели может быть неверным или содержать инструкции, поэтому ИИ воспринимает его как данные, а не как приказы.

Частые ошибки: «connection refused» или блокировка означает, что Ollama не запущен по адресу OLLAMA_URL, он слушает только 127.0.0.1 другой машины или хоста нет в SSRF_ALLOWED_HOSTS. Ошибка 404 model 'x' not found означает, что модель не установлена: выполни ollama pull x на сервере. Ошибка 400 does not support tools/thinking/insert или ошибка эмбеддинга означает, что модель не поддерживает эту возможность (проверь через ollama_show_model). Ошибка 401 в Ollama Cloud означает, что API-ключ отсутствует или неверен.

Коннектор не умеет загружать (pull), публиковать (push), копировать, создавать или удалять модели, поэтому он никогда не меняет то, что установлено на твоём сервере.

Требования: OLLAMA_URL

Локальная установка коннектора

curl -fsSL https://raw.githubusercontent.com/HelpCode-ai/anythingmcp/main/docker-compose.quickstart.yml -o docker-compose.yml
printf 'JWT_SECRET=%s\nENCRYPTION_KEY=%s\n' "$(openssl rand -hex 32)" "$(openssl rand -hex 32)" > .env
docker compose up -d

Открой http://localhost:3000/connectors/store, выбери Ollama и вставь переменные окружения, перечисленные в разделе «Требования».

Доступные инструменты

Следующие шаги

• Подключение к Claude
• Подключение к ChatGPT