Zusammenfassung
Lass deine KI Open-Weight-Modelle wie Gemma, Llama, Qwen, Mistral und DeepSeek nutzen, die auf deinem eigenen Ollama-Server (oder in Ollama Cloud) laufen: installierte und geladene Modelle auflisten, Details und Fähigkeiten eines Modells abrufen, chatten, Text generieren und Embeddings erstellen, ohne Daten an einen gehosteten KI-Anbieter zu senden.
Geführte Einrichtung
Ollama in 2 Minuten mit Meta Muse verbinden
Starte die kostenlose Testphase in der AnythingMCP Cloud, verbinde Ollama in der geführten Einrichtung und trag deine MCP-URL in Meta Muse ein. Ohne Code, ohne eigenen Server.
Keine Kreditkarte · 7 Tage Test · Self-Hosting-Alternative verfügbar
Frag einfach
Beispiel-Prompts für Ollama
Klick auf einen Prompt, um ihn zu kopieren. In Claude, ChatGPT, Cursor, Gemini, Copilot oder OpenClaw einfügen — und gegen diesen Connector laufen lassen.
Claude ist KI und kann Fehler machen. Bitte Antworten gegenprüfen.
💡 Keine Installation? Nutze direkt cloud.anythingmcp.com. Melde dich an, klicke auf Connectors → Ollama, füge deine Zugangsdaten ein, erstelle einen MCP-API-Schlüssel — fertig. Kein Docker, kein
git clone, kein lokaler Server.
Ollama + Meta Muse
Lass deine KI Open-Weight-Modelle wie Gemma, Llama, Qwen, Mistral und DeepSeek nutzen, die auf deinem eigenen Ollama-Server (oder in Ollama Cloud) laufen: installierte und geladene Modelle auflisten, Details und Fähigkeiten eines Modells abrufen, chatten, Text generieren und Embeddings erstellen, ohne Daten an einen gehosteten KI-Anbieter zu senden.
Voraussetzungen
Die vollständige Einrichtungsanleitung ist direkt im Connector enthalten (sichtbar im In-App-Store, wenn du den Connector auswählst). Die erforderlichen Umgebungsvariablen für diesen Connector sind:
OLLAMA_URL
Schritt 1 — Zugangsdaten besorgen
Die Einrichtung dauert etwa 2 Minuten. Du brauchst einen Ollama-Server, den AnythingMCP erreichen kann und auf dem mindestens ein Modell geladen (gepullt) ist, oder einen Ollama-Cloud-API-Schlüssel.
- Installiere Ollama von https://ollama.com/download und pulle ein Modell, z. B.
ollama pull gemma3. - Trage die Basis-URL des Servers ohne
/apiinOLLAMA_URLein, z. B.http://localhost:11434(der Standardport von Ollama). Wenn AnythingMCP in Docker läuft und Ollama auf dem Host, verwendehttp://host.docker.internal:11434. Wenn Ollama auf einem anderen Rechner läuft, starte es dort mitOLLAMA_HOST=0.0.0.0und verwende die Adresse dieses Rechners. - Self-hosted AnythingMCP: Füge diesen Host (z. B.
localhost,host.docker.internaloder die IP des Servers) zuSSRF_ALLOWED_HOSTSim AnythingMCP-Backend hinzu, das lokale und private Adressen standardmäßig blockiert. AnythingMCP Cloud kann keinen Server auf deinem eigenen Rechner oder in deinem Netzwerk erreichen: Nutze Ollama Cloud (Schritt 4) oder einen Ollama-Server mit öffentlicher Adresse. - Lass
OLLAMA_API_KEYbei einem lokalen Server leer. Für Ollama Cloud setzeOLLAMA_URLaufhttps://ollama.comund füge einen Schlüssel von https://ollama.com/settings/keys ein. Bei einem Server hinter einem Reverse-Proxy, der ein Token prüft, trägst du hier das Bearer-Token des Proxys ein. Der Schlüssel wird nur dann alsAuthorization: Bearergesendet, wenn er gesetzt ist. - Installiere den Connector und führe
ollama_get_versionaus: Das zeigt, dass der Server antwortet.
Was er kann: ollama_list_models listet die installierten Modelle mit Familie, Parametergröße und Quantisierung auf, und ollama_list_running_models zeigt, welche davon gerade im Arbeitsspeicher geladen sind. ollama_show_model liefert die Fähigkeiten eines Modells (completion, vision, tools, thinking, embedding), die Kontextlänge, Parameter und das Prompt-Template, sodass die KI prüfen kann, was ein Modell unterstützt, bevor sie Bilder oder Tools sendet. ollama_chat führt eine Unterhaltung mit System-Prompt, Verlauf, Bildern für Vision-Modelle, Tool-Calling, JSON-Ausgabe und Thinking. ollama_generate beantwortet einen einzelnen Prompt, einschließlich Fill-in-the-Middle mit suffix bei Code-Modellen. ollama_embed erstellt Embedding-Vektoren mit einem Embedding-Modell wie embeddinggemma oder nomic-embed-text. Prompts und Antworten bleiben auf deinem eigenen Server.
Geschwindigkeit und Kosten: Antworten werden nicht gestreamt. Der erste Aufruf eines Modells, das nicht geladen ist, lädt es auch, was bei großen Modellen von einigen Sekunden bis zu einer Minute dauert (load_duration im Ergebnis zeigt es in Nanosekunden an). Ein lokaler Server ist kostenlos; die Nutzung von Ollama Cloud wird auf den Tarif deines Kontos angerechnet. Die Ausgabe eines Modells kann falsch sein oder Anweisungen enthalten, deshalb behandelt die KI sie als Daten, nicht als Befehle.
Häufige Fehler: „Connection refused" oder „blocked" bedeutet, dass Ollama unter OLLAMA_URL nicht läuft, nur auf 127.0.0.1 eines anderen Rechners lauscht oder der Host in SSRF_ALLOWED_HOSTS fehlt. 404 model 'x' not found bedeutet, dass das Modell nicht installiert ist: Führe ollama pull x auf dem Server aus. 400 does not support tools/thinking/insert oder ein Embedding-Fehler bedeutet, dass dem Modell diese Fähigkeit fehlt (prüfe es mit ollama_show_model). 401 bei Ollama Cloud bedeutet, dass der API-Schlüssel fehlt oder falsch ist.
Der Connector pullt, pusht, kopiert, erstellt oder löscht keine Modelle, er ändert also nie, was auf deinem Server installiert ist.
Schritt 2 — Den Adapter installieren
curl -fsSL https://raw.githubusercontent.com/HelpCode-ai/anythingmcp/main/docker-compose.quickstart.yml -o docker-compose.yml
printf 'JWT_SECRET=%s\nENCRYPTION_KEY=%s\n' "$(openssl rand -hex 32)" "$(openssl rand -hex 32)" > .env
docker compose up -d
Schritt 3 — Den Connector in Muse hinzufügen
Deine Server-URL: Öffne in AnythingMCP MCP Servers → den Server, auf dem dieser Connector liegt, und kopiere seine URL (
https://cloud.anythingmcp.com/mcp/…). Setze sie überall ein, wo diese AnleitungYOUR_SERVER_IDzeigt.
Muse bindet Remote-MCP-Server als Custom Connectors ein und meldet sich per OAuth bei ihnen an.
- Öffne in Muse Settings → Connectors und wähle Add custom connector.
- Füge die MCP-Server-URL
https://cloud.anythingmcp.com/mcp/YOUR_SERVER_IDein. - Muse öffnet die Anmeldeseite von AnythingMCP: Melde dich an und bestätige den Zugriff.
- Bitte Muse im Chat um etwas, wofür es die
Ollama-Tools braucht.
Du kannst den Connector auch per Chat einrichten, im Web, in den Apps für iOS und Android oder in WhatsApp. Schick Muse diese Nachricht:
Create a Custom Connector for a new remote MCP server, then connect to it:
Name: AnythingMCP
Transport: remote streamable HTTP
URL: https://cloud.anythingmcp.com/mcp/YOUR_SERVER_ID
Auth: OAuth
Du hostest selbst? Nimm statt https://cloud.anythingmcp.com die öffentliche HTTPS-Adresse deiner Instanz. Muse verbindet sich aus der Cloud von Meta, localhost funktioniert deshalb nicht.
Verfügbare Tools
| Tool | Was es tut |
|---|---|
ollama_get_version | Zeigt die Version des Ollama-Servers an |
ollama_list_models | Listet die auf dem Ollama-Server installierten Modelle auf: Name, Größe, letzte Änderung, Format, Familie, Parametergröße (z. B. 4.3B) und Quantisierung (z. B |
ollama_list_running_models | Listet die Modelle auf, die aktuell im Arbeitsspeicher des Ollama-Servers geladen sind, mit Gesamtgröße, Anteil im GPU-Speicher (size_vram), Kontextlänge und… |
ollama_show_model | Zeigt die Details eines installierten Modells: Fähigkeiten (completion, vision, tools, thinking, insert, embedding), Familie, Parametergröße… |
ollama_chat | Chattet mit einem Modell auf dem Ollama-Server (kein Streaming) |
ollama_generate | Erzeugt eine Completion für einen Prompt auf dem Ollama-Server (kein Streaming), mit optionalem System-Prompt, Bildern für Vision-Modelle… |
ollama_embed | Erstellt Embedding-Vektoren für einen Text oder eine Liste von Texten mit einem Embedding-Modell auf dem Ollama-Server (z. B. embeddinggemma… |
FAQ
Wo ist Muse verfügbar? Meta bietet Muse derzeit in den USA und in Kanada an, im Web, in den Apps für iOS und Android und in WhatsApp.
Prüft Meta diesen Connector? Nein. Meta prüft Custom Connectors nicht. Muse sieht nur die Tools, die du in AnythingMCP für diesen MCP-Server eingeschaltet hast, und du kannst den Connector jederzeit unter Settings → Connectors trennen.
Nächste Schritte
War dieser Guide hilfreich?