Zusammenfassung
GroqCloud mit deinem eigenen API-Key: schnelle Chat Completions mit offenen Modellen wie Llama, GPT-OSS und Qwen, Transkription und Übersetzung ins Englische von Audiodateien über einen öffentlichen Link mit Whisper sowie Modelle, Batch-Jobs und Dateien der Organisation.
Geführte Einrichtung
Groq in 2 Minuten mit Microsoft Copilot verbinden
Starte die kostenlose Testphase in der AnythingMCP Cloud, verbinde Groq in der geführten Einrichtung und trag deine MCP-URL in Microsoft Copilot ein. Ohne Code, ohne eigenen Server.
Keine Kreditkarte · 7 Tage Test · Self-Hosting-Alternative verfügbar
Frag einfach
Beispiel-Prompts für Groq
Klick auf einen Prompt, um ihn zu kopieren. In Claude, ChatGPT, Cursor, Gemini, Copilot oder OpenClaw einfügen — und gegen diesen Connector laufen lassen.
Claude ist KI und kann Fehler machen. Bitte Antworten gegenprüfen.
💡 Keine Installation? Nutze cloud.anythingmcp.com direkt. Einloggen, Connectors → Groq klicken, Zugangsdaten einfügen, MCP-API-Key erzeugen, fertig. Kein Docker, kein
git clone, kein lokaler Server.
Groq + Microsoft Copilot
GroqCloud mit deinem eigenen API-Key: schnelle Chat Completions mit offenen Modellen wie Llama, GPT-OSS und Qwen, Transkription und Übersetzung ins Englische von Audiodateien über einen öffentlichen Link mit Whisper sowie Modelle, Batch-Jobs und Dateien der Organisation.
Voraussetzungen
Die vollständige Setup-Anleitung ist in den Connector eingebaut (im Store sichtbar, wenn du den Connector auswählst). Benötigte Umgebungsvariablen für diesen Connector:
GROQ_API_KEY
Schritt 1 — Zugangsdaten holen
Die Einrichtung dauert etwa 2 Minuten. Du brauchst ein GroqCloud-Konto; der kostenlose Plan funktioniert innerhalb seiner Rate Limits.
- Melde dich bei https://console.groq.com an und öffne API Keys (https://console.groq.com/keys).
- Klicke auf Create API Key, gib einen Namen ein und kopiere den Key. Er beginnt mit
gsk_, und Groq zeigt ihn nur einmal an. - Füge ihn in
GROQ_API_KEYein, ohne das WortBearer. Der Connector sendet ihn alsAuthorization: Bearerund nur an Groq. - Installiere den Connector und führe
groq_list_modelsaus: Es listet die Modelle, die der Key nutzen darf, und bestätigt den Key.
Welche Tools Geld kosten: groq_chat_completion, groq_transcribe_audio und groq_translate_audio lassen ein Modell laufen. Im kostenlosen Plan sind sie gratis, aber begrenzt; im Developer-Plan wird jeder Aufruf der Organisation berechnet: Text pro Eingabe- und Ausgabe-Token, Whisper pro Stunde Audio mit mindestens 10 Sekunden pro Anfrage. Die KI fragt dich vor großen oder wiederholten Aufrufen und setzt max_completion_tokens, um eine Antwort zu begrenzen. groq_list_models, groq_get_model, groq_list_batches, groq_get_batch, groq_list_files und groq_get_file kosten nichts.
Modelle: groq_list_models zeigt jedes Modell, das der Key nutzen darf, mit Anbieter, context_window, max_completion_tokens und ob es aktiv ist; groq_get_model liest eines und antwortet mit 404 bei einem Modell, das der Key nicht nutzen darf. Modell-IDs ändern sich oft: Preview-Modelle können kurzfristig verschwinden, Production-Modelle sind stabil. Gängige IDs sind llama-3.3-70b-versatile, llama-3.1-8b-instant (das günstigste), openai/gpt-oss-120b, openai/gpt-oss-20b und qwen/qwen3.8-27b; für Audio whisper-large-v3-turbo (günstiger) und whisper-large-v3.
Text: groq_chat_completion nimmt model und messages und liefert die ganze Antwort auf einmal (kein Streaming). response_format verlangt JSON oder ein JSON-Schema, tools ergänzt Function Calling, und reasoning_effort und reasoning_format steuern Reasoning-Modelle (GPT-OSS nimmt low, medium oder high; Qwen nimmt none oder default).
Audio: groq_transcribe_audio schreibt Sprache in ihrer eigenen Sprache mit, groq_translate_audio macht daraus englischen Text (nur whisper-large-v3 übersetzt). Beide nehmen einen öffentlichen Link in url: Groq lädt die Datei selbst herunter, hochgeladen wird nichts. Formate: flac, mp3, mp4, mpeg, mpga, m4a, ogg, wav, webm. Mit language (ISO-639-1, etwa de) geht es schneller und genauer. response_format verbose_json ergänzt Segmente mit Zeitstempeln, timestamp_granularities word die Zeiten einzelner Wörter.
Batch-Jobs und Dateien: groq_list_batches und groq_get_batch zeigen anderswo gestartete Batches mit Status (validating, in_progress, finalizing, completed, failed, expired, cancelling, cancelled), Anzahl der Anfragen sowie output_file_id und error_file_id. groq_list_files und groq_get_file zeigen Dateiname, Größe in Bytes, Zweck (batch oder batch_output) und Erstellungszeit, nicht den Inhalt.
Datenformate: Eine Completion liefert choices[0].message.content, finish_reason (stop, length, wenn max_completion_tokens erreicht wurde, tool_calls) und usage mit Token-Zahlen und Zeiten in Sekunden; Reasoning-Modelle legen ihre Überlegungen eventuell in choices[0].message.reasoning ab. Das Ergebnis enthält außerdem _headers mit den verbleibenden Anfragen und Tokens des Rate Limits. Eine Transkription liefert text. Zeitstempel wie created sind Unix-Sekunden in UTC.
Blättern: Die Listen-Tools haben keine Seitenparameter; sie liefern, was Groq in einer Antwort schickt.
Bei der Installation deaktiviert: nichts. Alle 9 Tools sind aktiv, und keines löscht etwas.
Limits: Rate Limits gelten pro Organisation und Modell, als Anfragen und Tokens pro Minute und pro Tag (https://console.groq.com/settings/limits). Audio-Links dürfen im kostenlosen Plan auf Dateien bis 25 MB zeigen, in bezahlten Plänen bis 100 MB.
Häufige Fehler: 400 bedeutet einen Parameter, den das Modell nicht unterstützt, oder Audio, das sich nicht lesen lässt; 401 einen falschen oder gelöschten Key; 403, dass das Projekt dieses Modell nicht nutzen darf; 404 ein unbekanntes Modell, einen unbekannten Batch oder eine unbekannte Datei; 413 eine zu große Audiodatei; 429 ein erreichtes Rate Limit (die KI wartet die Sekunden aus retry-after ab, statt in einer Schleife zu wiederholen); 498 keine freie Kapazität im Flex-Tier; 500 und 503 sind Probleme bei Groq, versuch es später einmal erneut.
Der Connector streamt keine Antworten, lädt keine Dateiinhalte hoch oder herunter und legt keine Batch-Jobs an oder bricht sie ab.
Schritt 2 — Adapter installieren
curl -fsSL https://raw.githubusercontent.com/HelpCode-ai/anythingmcp/main/docker-compose.quickstart.yml -o docker-compose.yml
printf 'JWT_SECRET=%s\nENCRYPTION_KEY=%s\n' "$(openssl rand -hex 32)" "$(openssl rand -hex 32)" > .env
docker compose up -d
Schritt 3 — Connector in Microsoft Copilot hinzufügen
Deine Server-URL: Öffne in AnythingMCP MCP Servers → den Server, auf dem dieser Connector liegt, und kopiere seine URL (
https://cloud.anythingmcp.com/mcp/…). Setze sie überall ein, wo diese AnleitungYOUR_SERVER_IDzeigt.
Microsoft Copilot nutzt MCP-Server über Agents, die du in Copilot Studio baust: Du fügst AnythingMCP einem Agent als Tool hinzu und veröffentlichst den Agent dann in Microsoft 365 Copilot und Teams. Copilot Studio verbindet sich aus der Cloud von Microsoft per Streamable HTTP, das AnythingMCP unterstützt.
- Öffne in Copilot Studio deinen Agent (oder leg einen an), geh zu Tools und wähle Add a tool → New tool → Model Context Protocol.
- Trag einen Server name ein (zum Beispiel
AnythingMCP), eine Server description, die sagt, was der Connector kann, und die Server URLhttps://cloud.anythingmcp.com/mcp/YOUR_SERVER_ID. Anhand der Beschreibung entscheidet Copilot Studio, wann es den Server aufruft. - Wähle bei der Authentifizierung API key, setze Type auf Header und den Header-Namen auf
X-API-Keyund klicke auf Create. - Wähle in Add tool die Option Create a new connection, füge einen MCP-API-Key aus AnythingMCP ein (MCP Servers → dein Server → API keys) und klicke auf Add to agent.
- Probier es im Test-Bereich des Agents aus: Bitte um etwas, wofür er die
Groq-Tools braucht. - Klicke auf Publish, dann auf Channels → Microsoft 365 and Microsoft Teams, lass Make agent available in Microsoft Copilot aktiviert und wähle Add channel. See agent in Teams installiert den Agent für dich; in Microsoft 365 Copilot tippst du @ und wählst den Agent aus.
Lieber eine Anmeldung pro Person? Wähle statt API key OAuth 2.0 → Dynamic discovery: Dann meldet sich jede Person beim ersten Aufruf des Agents bei AnythingMCP an.
Du hostest selbst? Nimm statt https://cloud.anythingmcp.com die öffentliche HTTPS-Adresse deiner Instanz. Copilot Studio verbindet sich aus der Cloud von Microsoft, localhost funktioniert deshalb nicht.
Verfügbare Tools
| Tool | What it does |
|---|---|
groq_list_models | List the models this Groq API key can use (chat, reasoning, Whisper speech-to-text, text-to-speech, safety), with owner, context window… |
groq_get_model | Read one Groq model: owner, creation time, context window, maximum completion tokens and whether it is active |
groq_chat_completion | Send a conversation to a Groq-hosted model and return its reply (non-streaming) |
groq_transcribe_audio | Transcribe speech in an audio file to text in its own language with Whisper |
groq_translate_audio | Translate speech in an audio file into English text with Whisper (only whisper-large-v3 translates) |
groq_list_batches | List the Batch API jobs of the Groq organization: endpoint, status (validating, in_progress, finalizing, completed, failed, expired… |
groq_get_batch | Read one Groq batch job: status, timestamps of each stage, request counts (total, completed, failed), errors, metadata and the… |
groq_list_files | List the files stored in the Groq organization (batch inputs and batch outputs) with id, file name, size in bytes, purpose and creation time |
groq_get_file | Read the metadata of one Groq file: name, size in bytes, purpose (batch or batch_output) and creation time |
Beispiel-Prompts
- „Welche Groq-Modelle kann mein Key gerade nutzen, und wie groß ist jeweils das Kontextfenster?“
- „Fass diese Support-Mail mit llama-3.1-8b-instant in drei Stichpunkten zusammen und bleib unter 200 Tokens.“
- „Transkribiere die deutsche Podcast-Folge unter https://example.com/audio/episode-12.mp3 mit Zeitstempeln pro Segment.“
- „Übersetze die italienische Sprachnachricht unter https://example.com/voice/note.m4a in englischen Text.“
- „Zeig mir den Status meiner Groq-Batch-Jobs und wie viele Anfragen im letzten fehlgeschlagen sind.“
FAQ
Für welchen Copilot gilt das? Für Microsoft 365 Copilot im Unternehmen, über Agents aus Copilot Studio. Die Microsoft-Copilot-App für private Konten bietet keine Möglichkeit, einen eigenen MCP-Server hinzuzufügen.
Was brauche ich? Ein Arbeitskonto mit Zugang zu Copilot Studio (Lizenz oder Testversion), um den Agent zu bauen. Wer ihn in Microsoft 365 Copilot oder Teams nutzen soll, braucht Zugriff auf den Agent: Teile ihn oder lass ihn von einem Admin für die Organisation veröffentlichen. Wendet deine Organisation Datenrichtlinien auf Power-Platform-Connectors an, gelten sie auch für MCP-Server.
Der Agent ruft die Tools nicht auf. Prüfe, dass der Header-Name genau X-API-Key lautet und der Schlüssel zum selben MCP-Server gehört wie die URL, und formuliere die Server description konkret: Copilot Studio entscheidet anhand der Beschreibung, wann es den Server aufruft. Veröffentliche den Agent nach jeder Änderung erneut; in einem offenen Chat holst du die neue Version mit „start over“.
Nächste Schritte
- Connector-Startseite
- Mit Claude verbinden
- Mit ChatGPT verbinden
- Mit Cursor verbinden
- Mit Gemini verbinden
- Mit Meta Muse verbinden
War dieser Guide hilfreich?