Groq MCP mit Gemini CLI verbinden

💡 Keine Installation? Nutze cloud.anythingmcp.com direkt. Einloggen, Connectors → Groq klicken, Zugangsdaten einfügen, MCP-API-Key erzeugen, fertig. Kein Docker, kein git clone, kein lokaler Server.

Groq + Gemini

GroqCloud mit deinem eigenen API-Key: schnelle Chat Completions mit offenen Modellen wie Llama, GPT-OSS und Qwen, Transkription und Übersetzung ins Englische von Audiodateien über einen öffentlichen Link mit Whisper sowie Modelle, Batch-Jobs und Dateien der Organisation.

Voraussetzungen

Die vollständige Setup-Anleitung ist in den Connector eingebaut (im Store sichtbar, wenn du den Connector auswählst). Benötigte Umgebungsvariablen für diesen Connector:

GROQ_API_KEY

Schritt 1 — Zugangsdaten holen

Die Einrichtung dauert etwa 2 Minuten. Du brauchst ein GroqCloud-Konto; der kostenlose Plan funktioniert innerhalb seiner Rate Limits.

1. Melde dich bei https://console.groq.com an und öffne API Keys (https://console.groq.com/keys).
2. Klicke auf Create API Key, gib einen Namen ein und kopiere den Key. Er beginnt mit gsk_, und Groq zeigt ihn nur einmal an.
3. Füge ihn in GROQ_API_KEY ein, ohne das Wort Bearer. Der Connector sendet ihn als Authorization: Bearer und nur an Groq.
4. Installiere den Connector und führe groq_list_models aus: Es listet die Modelle, die der Key nutzen darf, und bestätigt den Key.

Welche Tools Geld kosten: groq_chat_completion, groq_transcribe_audio und groq_translate_audio lassen ein Modell laufen. Im kostenlosen Plan sind sie gratis, aber begrenzt; im Developer-Plan wird jeder Aufruf der Organisation berechnet: Text pro Eingabe- und Ausgabe-Token, Whisper pro Stunde Audio mit mindestens 10 Sekunden pro Anfrage. Die KI fragt dich vor großen oder wiederholten Aufrufen und setzt max_completion_tokens, um eine Antwort zu begrenzen. groq_list_models, groq_get_model, groq_list_batches, groq_get_batch, groq_list_files und groq_get_file kosten nichts.

Modelle: groq_list_models zeigt jedes Modell, das der Key nutzen darf, mit Anbieter, context_window, max_completion_tokens und ob es aktiv ist; groq_get_model liest eines und antwortet mit 404 bei einem Modell, das der Key nicht nutzen darf. Modell-IDs ändern sich oft: Preview-Modelle können kurzfristig verschwinden, Production-Modelle sind stabil. Gängige IDs sind llama-3.3-70b-versatile, llama-3.1-8b-instant (das günstigste), openai/gpt-oss-120b, openai/gpt-oss-20b und qwen/qwen3.8-27b; für Audio whisper-large-v3-turbo (günstiger) und whisper-large-v3.

Text: groq_chat_completion nimmt model und messages und liefert die ganze Antwort auf einmal (kein Streaming). response_format verlangt JSON oder ein JSON-Schema, tools ergänzt Function Calling, und reasoning_effort und reasoning_format steuern Reasoning-Modelle (GPT-OSS nimmt low, medium oder high; Qwen nimmt none oder default).

Audio: groq_transcribe_audio schreibt Sprache in ihrer eigenen Sprache mit, groq_translate_audio macht daraus englischen Text (nur whisper-large-v3 übersetzt). Beide nehmen einen öffentlichen Link in url: Groq lädt die Datei selbst herunter, hochgeladen wird nichts. Formate: flac, mp3, mp4, mpeg, mpga, m4a, ogg, wav, webm. Mit language (ISO-639-1, etwa de) geht es schneller und genauer. response_format verbose_json ergänzt Segmente mit Zeitstempeln, timestamp_granularities word die Zeiten einzelner Wörter.

Batch-Jobs und Dateien: groq_list_batches und groq_get_batch zeigen anderswo gestartete Batches mit Status (validating, in_progress, finalizing, completed, failed, expired, cancelling, cancelled), Anzahl der Anfragen sowie output_file_id und error_file_id. groq_list_files und groq_get_file zeigen Dateiname, Größe in Bytes, Zweck (batch oder batch_output) und Erstellungszeit, nicht den Inhalt.

Datenformate: Eine Completion liefert choices[0].message.content, finish_reason (stop, length, wenn max_completion_tokens erreicht wurde, tool_calls) und usage mit Token-Zahlen und Zeiten in Sekunden; Reasoning-Modelle legen ihre Überlegungen eventuell in choices[0].message.reasoning ab. Das Ergebnis enthält außerdem _headers mit den verbleibenden Anfragen und Tokens des Rate Limits. Eine Transkription liefert text. Zeitstempel wie created sind Unix-Sekunden in UTC.

Blättern: Die Listen-Tools haben keine Seitenparameter; sie liefern, was Groq in einer Antwort schickt.

Bei der Installation deaktiviert: nichts. Alle 9 Tools sind aktiv, und keines löscht etwas.

Limits: Rate Limits gelten pro Organisation und Modell, als Anfragen und Tokens pro Minute und pro Tag (https://console.groq.com/settings/limits). Audio-Links dürfen im kostenlosen Plan auf Dateien bis 25 MB zeigen, in bezahlten Plänen bis 100 MB.

Häufige Fehler: 400 bedeutet einen Parameter, den das Modell nicht unterstützt, oder Audio, das sich nicht lesen lässt; 401 einen falschen oder gelöschten Key; 403, dass das Projekt dieses Modell nicht nutzen darf; 404 ein unbekanntes Modell, einen unbekannten Batch oder eine unbekannte Datei; 413 eine zu große Audiodatei; 429 ein erreichtes Rate Limit (die KI wartet die Sekunden aus retry-after ab, statt in einer Schleife zu wiederholen); 498 keine freie Kapazität im Flex-Tier; 500 und 503 sind Probleme bei Groq, versuch es später einmal erneut.

Der Connector streamt keine Antworten, lädt keine Dateiinhalte hoch oder herunter und legt keine Batch-Jobs an oder bricht sie ab.

Schritt 2 — Adapter installieren

curl -fsSL https://raw.githubusercontent.com/HelpCode-ai/anythingmcp/main/docker-compose.quickstart.yml -o docker-compose.yml
printf 'JWT_SECRET=%s\nENCRYPTION_KEY=%s\n' "$(openssl rand -hex 32)" "$(openssl rand -hex 32)" > .env
docker compose up -d

Schritt 3 — Connector in Gemini hinzufügen

Deine Server-URL: Öffne in AnythingMCP MCP Servers → den Server, auf dem dieser Connector liegt, und kopiere seine URL (https://cloud.anythingmcp.com/mcp/…). Setze sie überall ein, wo diese Anleitung YOUR_SERVER_ID zeigt.

Gemini CLI liest MCP-Server aus ~/.gemini/settings.json (unter Windows %USERPROFILE%\.gemini\settings.json). Füge hinzu:

{
  "mcpServers": {
    "anythingmcp": {
      "httpUrl": "https://cloud.anythingmcp.com/mcp/YOUR_SERVER_ID",
      "headers": { "X-API-Key": "YOUR_MCP_API_KEY" }
    }
  }
}

1. Erstelle in AnythingMCP unter MCP Servers → dein Server → API keys einen MCP-API-Key und setze ihn anstelle von YOUR_MCP_API_KEY ein.
2. Speichere die Datei und starte gemini neu.
3. Führe in der Gemini CLI /mcp aus (oder gemini mcp list im Terminal): anythingmcp sollte als verbunden erscheinen.
4. Leg los: Gemini CLI kann jetzt die Groq-Tools aufrufen.

Verfügbare Tools

Beispiel-Prompts

• „Welche Groq-Modelle kann mein Key gerade nutzen, und wie groß ist jeweils das Kontextfenster?“
• „Fass diese Support-Mail mit llama-3.1-8b-instant in drei Stichpunkten zusammen und bleib unter 200 Tokens.“
• „Transkribiere die deutsche Podcast-Folge unter https://example.com/audio/episode-12.mp3 mit Zeitstempeln pro Segment.“
• „Übersetze die italienische Sprachnachricht unter https://example.com/voice/note.m4a in englischen Text.“
• „Zeig mir den Status meiner Groq-Batch-Jobs und wie viele Anfragen im letzten fehlgeschlagen sind.“

FAQ

Wo sucht Gemini CLI nach MCP-Servern? In ~/.gemini/settings.json für deinen Benutzer oder in .gemini/settings.json innerhalb eines Projekts. gemini mcp list zeigt jeden Server und ob er sich verbindet.

Nächste Schritte

• Connector-Startseite
• Mit Claude verbinden
• Mit ChatGPT verbinden
• Mit Cursor verbinden
• Mit Meta Muse verbinden
• Mit Microsoft Copilot verbinden