Ollama MCP サーバーでモデルとチャット

💡 インストール不要。cloud.anythingmcp.com をそのままご利用ください。 サインインして Connectors → Ollama をクリックし、認証情報を貼り付けて MCP API キーを発行すれば完了です。Docker も git clone もローカルサーバーも不要です。

Ollama

自分の Ollama サーバー(または Ollama Cloud)で動作する Gemma、Llama、Qwen、Mistral、DeepSeek などのオープンウェイトモデルを AI から利用できます。インストール済み・ロード済みのモデルの一覧表示、モデルの詳細や機能の取得、チャット、テキスト生成、埋め込みの作成が可能で、ホスト型 AI プロバイダーにデータを送信する必要はありません。

セットアップ

セットアップには約 2 分かかります。AnythingMCP から到達できる Ollama サーバーで少なくとも 1 つのモデルを取得済みであるか、Ollama Cloud の API キーが必要です。

1. https://ollama.com/download から Ollama をインストールし、モデルを取得します(例: ollama pull gemma3)。
2. サーバーのベース URL を /api なしで OLLAMA_URL に設定します(例: http://localhost:11434、Ollama のデフォルトポートです)。AnythingMCP が Docker 上で動作し、Ollama がホスト上で動作している場合は、http://host.docker.internal:11434 を使用します。別のマシン上の Ollama を使う場合は、そのマシンで OLLAMA_HOST=0.0.0.0 を指定して起動し、そのマシンのアドレスを使用します。
3. セルフホストの AnythingMCP: AnythingMCP バックエンドの SSRF_ALLOWED_HOSTS にそのホスト(例: localhost、host.docker.internal、またはサーバーの IP)を追加します。デフォルトではローカルおよびプライベートアドレスはブロックされます。AnythingMCP Cloud は、あなた自身のマシンやネットワーク上のサーバーには到達できません。Ollama Cloud(手順 4)か、公開アドレスを持つ Ollama サーバーを使用してください。
4. ローカルサーバーの場合、OLLAMA_API_KEY は空のままにします。Ollama Cloud の場合は、OLLAMA_URL を https://ollama.com に設定し、https://ollama.com/settings/keys で取得したキーを貼り付けます。トークンを確認するリバースプロキシの背後にあるサーバーの場合は、プロキシの Bearer トークンをここに入力します。キーは設定されている場合にのみ Authorization: Bearer として送信されます。
5. コネクターをインストールし、ollama_get_version を実行します。サーバーが応答すれば接続できています。

できること: ollama_list_models はインストール済みモデルをファミリー、パラメータサイズ、量子化とともに一覧表示し、ollama_list_running_models は現在メモリにロードされているモデルを表示します。ollama_show_model はモデルの機能(completion、vision、tools、thinking、embedding)、コンテキスト長、パラメータ、プロンプトテンプレートを返すため、AI は画像やツールを送る前にモデルが何に対応しているかを確認できます。ollama_chat は、システムプロンプト、履歴、Vision モデル向けの画像、ツール呼び出し、JSON 出力、thinking を使った会話を行います。ollama_generate は単一のプロンプトに回答し、コードモデルでは suffix を使った fill-in-the-middle にも対応します。ollama_embed は embeddinggemma や nomic-embed-text などの埋め込みモデルで埋め込みベクトルを作成します。プロンプトと回答はすべて自分のサーバー内にとどまります。

速度とコスト: 回答はストリーミングされません。ロードされていないモデルへの最初の呼び出しではモデルのロードも行われ、大きなモデルでは数秒から 1 分ほどかかります(結果の load_duration にナノ秒単位で表示されます)。ローカルサーバーは無料です。Ollama Cloud の利用分は、アカウントのプランに計上されます。モデルの出力は誤っていたり指示を含んでいたりする可能性があるため、AI はそれを命令ではなくデータとして扱います。

よくあるエラー: 接続拒否またはブロックは、OLLAMA_URL で Ollama が動作していない、別のマシンの 127.0.0.1 でのみ待ち受けている、またはホストが SSRF_ALLOWED_HOSTS に含まれていないことを意味します。404 model 'x' not found は、モデルがインストールされていないことを意味します。サーバーで ollama pull x を実行してください。400 does not support tools/thinking/insert や埋め込みエラーは、そのモデルが該当する機能に対応していないことを意味します(ollama_show_model で確認してください)。Ollama Cloud での 401 は、API キーが未設定または誤っていることを意味します。

このコネクターはモデルの pull、push、コピー、作成、削除を行わないため、サーバーにインストールされているモデルが変更されることはありません。

前提条件: OLLAMA_URL

コネクターをローカルにインストール

curl -fsSL https://raw.githubusercontent.com/HelpCode-ai/anythingmcp/main/docker-compose.quickstart.yml -o docker-compose.yml
printf 'JWT_SECRET=%s\nENCRYPTION_KEY=%s\n' "$(openssl rand -hex 32)" "$(openssl rand -hex 32)" > .env
docker compose up -d

http://localhost:3000/connectors/store を開き、Ollama を選択して、前提条件に記載した環境変数を貼り付けます。

利用可能なツール

次のステップ

• Claude に接続する
• ChatGPT に接続する