Groq MCP-Server für Modelle, Audio und Batch-Jobs

💡 Keine Installation? Nutze cloud.anythingmcp.com direkt. Einloggen, Connectors → Groq klicken, Zugangsdaten einfügen, MCP-API-Key erzeugen, fertig. Kein Docker, kein git clone, kein lokaler Server.

Groq

GroqCloud mit deinem eigenen API-Key: schnelle Chat Completions mit offenen Modellen wie Llama, GPT-OSS und Qwen, Transkription und Übersetzung ins Englische von Audiodateien über einen öffentlichen Link mit Whisper sowie Modelle, Batch-Jobs und Dateien der Organisation.

Einrichtung

Die Einrichtung dauert etwa 2 Minuten. Du brauchst ein GroqCloud-Konto; der kostenlose Plan funktioniert innerhalb seiner Rate Limits.

1. Melde dich bei https://console.groq.com an und öffne API Keys (https://console.groq.com/keys).
2. Klicke auf Create API Key, gib einen Namen ein und kopiere den Key. Er beginnt mit gsk_, und Groq zeigt ihn nur einmal an.
3. Füge ihn in GROQ_API_KEY ein, ohne das Wort Bearer. Der Connector sendet ihn als Authorization: Bearer und nur an Groq.
4. Installiere den Connector und führe groq_list_models aus: Es listet die Modelle, die der Key nutzen darf, und bestätigt den Key.

Welche Tools Geld kosten: groq_chat_completion, groq_transcribe_audio und groq_translate_audio lassen ein Modell laufen. Im kostenlosen Plan sind sie gratis, aber begrenzt; im Developer-Plan wird jeder Aufruf der Organisation berechnet: Text pro Eingabe- und Ausgabe-Token, Whisper pro Stunde Audio mit mindestens 10 Sekunden pro Anfrage. Die KI fragt dich vor großen oder wiederholten Aufrufen und setzt max_completion_tokens, um eine Antwort zu begrenzen. groq_list_models, groq_get_model, groq_list_batches, groq_get_batch, groq_list_files und groq_get_file kosten nichts.

Modelle: groq_list_models zeigt jedes Modell, das der Key nutzen darf, mit Anbieter, context_window, max_completion_tokens und ob es aktiv ist; groq_get_model liest eines und antwortet mit 404 bei einem Modell, das der Key nicht nutzen darf. Modell-IDs ändern sich oft: Preview-Modelle können kurzfristig verschwinden, Production-Modelle sind stabil. Gängige IDs sind llama-3.3-70b-versatile, llama-3.1-8b-instant (das günstigste), openai/gpt-oss-120b, openai/gpt-oss-20b und qwen/qwen3.8-27b; für Audio whisper-large-v3-turbo (günstiger) und whisper-large-v3.

Text: groq_chat_completion nimmt model und messages und liefert die ganze Antwort auf einmal (kein Streaming). response_format verlangt JSON oder ein JSON-Schema, tools ergänzt Function Calling, und reasoning_effort und reasoning_format steuern Reasoning-Modelle (GPT-OSS nimmt low, medium oder high; Qwen nimmt none oder default).

Audio: groq_transcribe_audio schreibt Sprache in ihrer eigenen Sprache mit, groq_translate_audio macht daraus englischen Text (nur whisper-large-v3 übersetzt). Beide nehmen einen öffentlichen Link in url: Groq lädt die Datei selbst herunter, hochgeladen wird nichts. Formate: flac, mp3, mp4, mpeg, mpga, m4a, ogg, wav, webm. Mit language (ISO-639-1, etwa de) geht es schneller und genauer. response_format verbose_json ergänzt Segmente mit Zeitstempeln, timestamp_granularities word die Zeiten einzelner Wörter.

Batch-Jobs und Dateien: groq_list_batches und groq_get_batch zeigen anderswo gestartete Batches mit Status (validating, in_progress, finalizing, completed, failed, expired, cancelling, cancelled), Anzahl der Anfragen sowie output_file_id und error_file_id. groq_list_files und groq_get_file zeigen Dateiname, Größe in Bytes, Zweck (batch oder batch_output) und Erstellungszeit, nicht den Inhalt.

Datenformate: Eine Completion liefert choices[0].message.content, finish_reason (stop, length, wenn max_completion_tokens erreicht wurde, tool_calls) und usage mit Token-Zahlen und Zeiten in Sekunden; Reasoning-Modelle legen ihre Überlegungen eventuell in choices[0].message.reasoning ab. Das Ergebnis enthält außerdem _headers mit den verbleibenden Anfragen und Tokens des Rate Limits. Eine Transkription liefert text. Zeitstempel wie created sind Unix-Sekunden in UTC.

Blättern: Die Listen-Tools haben keine Seitenparameter; sie liefern, was Groq in einer Antwort schickt.

Bei der Installation deaktiviert: nichts. Alle 9 Tools sind aktiv, und keines löscht etwas.

Limits: Rate Limits gelten pro Organisation und Modell, als Anfragen und Tokens pro Minute und pro Tag (https://console.groq.com/settings/limits). Audio-Links dürfen im kostenlosen Plan auf Dateien bis 25 MB zeigen, in bezahlten Plänen bis 100 MB.

Häufige Fehler: 400 bedeutet einen Parameter, den das Modell nicht unterstützt, oder Audio, das sich nicht lesen lässt; 401 einen falschen oder gelöschten Key; 403, dass das Projekt dieses Modell nicht nutzen darf; 404 ein unbekanntes Modell, einen unbekannten Batch oder eine unbekannte Datei; 413 eine zu große Audiodatei; 429 ein erreichtes Rate Limit (die KI wartet die Sekunden aus retry-after ab, statt in einer Schleife zu wiederholen); 498 keine freie Kapazität im Flex-Tier; 500 und 503 sind Probleme bei Groq, versuch es später einmal erneut.

Der Connector streamt keine Antworten, lädt keine Dateiinhalte hoch oder herunter und legt keine Batch-Jobs an oder bricht sie ab.

Voraussetzungen: GROQ_API_KEY

Connector lokal installieren

curl -fsSL https://raw.githubusercontent.com/HelpCode-ai/anythingmcp/main/docker-compose.quickstart.yml -o docker-compose.yml
printf 'JWT_SECRET=%s\nENCRYPTION_KEY=%s\n' "$(openssl rand -hex 32)" "$(openssl rand -hex 32)" > .env
docker compose up -d

Öffne http://localhost:3000/connectors/store, wähle Groq und trage die unter Voraussetzungen aufgelisteten Variablen ein.

Verfügbare Tools

Beispiel-Prompts

• „Welche Groq-Modelle kann mein Key gerade nutzen, und wie groß ist jeweils das Kontextfenster?“
• „Fass diese Support-Mail mit llama-3.1-8b-instant in drei Stichpunkten zusammen und bleib unter 200 Tokens.“
• „Transkribiere die deutsche Podcast-Folge unter https://example.com/audio/episode-12.mp3 mit Zeitstempeln pro Segment.“
• „Übersetze die italienische Sprachnachricht unter https://example.com/voice/note.m4a in englischen Text.“
• „Zeig mir den Status meiner Groq-Batch-Jobs und wie viele Anfragen im letzten fehlgeschlagen sind.“

Nächste Schritte

• Mit Claude verbinden
• Mit ChatGPT verbinden