Groq MCP-сервер: модели, аудио и задания

💡 Без установки? Используйте cloud.anythingmcp.com напрямую. Войдите, нажмите Connectors → Groq, вставьте учётные данные, создайте MCP API key, и готово. Без Docker, без git clone, без локального сервера.

Groq

GroqCloud с вашим собственным API-ключом: быстрые chat completions на открытых моделях вроде Llama, GPT-OSS и Qwen, распознавание речи и перевод на английский аудиофайлов по публичной ссылке с Whisper, а также модели, пакетные задания и файлы организации.

Настройка

Настройка занимает около 2 минут. Нужен аккаунт GroqCloud; бесплатный план работает в пределах своих лимитов.

1. Войдите на https://console.groq.com и откройте API Keys (https://console.groq.com/keys).
2. Нажмите Create API Key, задайте имя и скопируйте ключ. Он начинается с gsk_, и Groq показывает его только один раз.
3. Вставьте его в GROQ_API_KEY без слова Bearer. Коннектор отправляет его как Authorization: Bearer и только в Groq.
4. Установите коннектор и запустите groq_list_models: он покажет модели, доступные ключу, и подтвердит ключ.

Какие инструменты стоят денег: groq_chat_completion, groq_transcribe_audio и groq_translate_audio запускают модель. На бесплатном плане они бесплатны, но ограничены лимитами; на плане Developer каждый вызов оплачивает организация: текст за входные и выходные токены, Whisper за час аудио, минимум 10 секунд за запрос. ИИ спрашивает вас перед крупными или повторными вызовами и задаёт max_completion_tokens, чтобы ограничить ответ. groq_list_models, groq_get_model, groq_list_batches, groq_get_batch, groq_list_files и groq_get_file бесплатны.

Модели: groq_list_models показывает все модели, доступные ключу, с владельцем, context_window, max_completion_tokens и признаком активности; groq_get_model читает одну модель и отвечает 404, если ключу она недоступна. Идентификаторы моделей часто меняются: preview-модели могут исчезнуть без долгого предупреждения, production-модели стабильны. Распространённые идентификаторы: llama-3.3-70b-versatile, llama-3.1-8b-instant (самая дешёвая), openai/gpt-oss-120b, openai/gpt-oss-20b и qwen/qwen3.8-27b; для аудио whisper-large-v3-turbo (дешевле) и whisper-large-v3.

Текст: groq_chat_completion принимает model и messages и возвращает весь ответ сразу (без стриминга). response_format запрашивает JSON или JSON-схему, tools добавляет вызов функций, а reasoning_effort и reasoning_format настраивают рассуждающие модели (GPT-OSS принимает low, medium или high; Qwen принимает none или default).

Аудио: groq_transcribe_audio записывает речь текстом на её языке, groq_translate_audio превращает её в английский текст (переводит только whisper-large-v3). Оба принимают публичную ссылку в url: Groq сам скачивает файл, загружать ничего не нужно. Форматы: flac, mp3, mp4, mpeg, mpga, m4a, ogg, wav, webm. Если указать language (ISO-639-1, например ru), распознавание быстрее и точнее. response_format verbose_json добавляет сегменты с метками времени, timestamp_granularities word добавляет время каждого слова.

Пакетные задания и файлы: groq_list_batches и groq_get_batch показывают пакеты, запущенные в другом месте, со статусом (validating, in_progress, finalizing, completed, failed, expired, cancelling, cancelled), числом запросов и output_file_id и error_file_id. groq_list_files и groq_get_file показывают имя файла, размер в байтах, назначение (batch или batch_output) и время создания, но не содержимое.

Форматы данных: completion возвращает choices[0].message.content, finish_reason (stop, length, если достигнут max_completion_tokens, tool_calls) и usage с числом токенов и временем в секундах; рассуждающие модели могут класть рассуждения в choices[0].message.reasoning. В результате также есть _headers с оставшимися запросами и токенами лимита. Транскрипция возвращает text. Метки времени вроде created указаны в секундах Unix, UTC.

Постраничная выдача: у инструментов-списков нет параметров страниц; они возвращают то, что Groq отдаёт в одном ответе.

Отключено при установке: ничего. Все 9 инструментов включены, и ни один из них ничего не удаляет.

Ограничения: лимиты действуют на организацию и модель, в запросах и токенах в минуту и в день (https://console.groq.com/settings/limits). Ссылки на аудио могут указывать на файлы до 25 МБ на бесплатном плане и до 100 МБ на платных.

Частые ошибки: 400 означает параметр, который модель не поддерживает, или нечитаемое аудио; 401 неверный или удалённый ключ; 403 проекту нельзя использовать эту модель; 404 неизвестная модель, пакет или файл; 413 слишком большой аудиофайл; 429 достигнут лимит (ИИ ждёт столько секунд, сколько указано в retry-after, а не повторяет запрос в цикле); 498 нет свободной ёмкости в flex-тарифе; 500 и 503 означают проблему на стороне Groq, повторите один раз позже.

Коннектор не стримит ответы, не загружает и не скачивает содержимое файлов и не создаёт и не отменяет пакетные задания.

Предварительные требования: GROQ_API_KEY

Локальная установка коннектора

curl -fsSL https://raw.githubusercontent.com/HelpCode-ai/anythingmcp/main/docker-compose.quickstart.yml -o docker-compose.yml
printf 'JWT_SECRET=%s\nENCRYPTION_KEY=%s\n' "$(openssl rand -hex 32)" "$(openssl rand -hex 32)" > .env
docker compose up -d

Откройте http://localhost:3000/connectors/store, выберите Groq и введите переменные, перечисленные в Предварительных требованиях.

Доступные инструменты

Примеры запросов

• «Какие модели Groq сейчас доступны моему ключу и какое у каждой контекстное окно?»
• «Кратко изложи это письмо в поддержку в трёх пунктах с помощью llama-3.1-8b-instant, не больше 200 токенов.»
• «Расшифруй выпуск немецкого подкаста по ссылке https://example.com/audio/episode-12.mp3 с метками времени для каждого сегмента.»
• «Переведи итальянское голосовое сообщение https://example.com/voice/note.m4a в английский текст.»
• «Покажи статус моих пакетных заданий Groq и сколько запросов не прошло в последнем.»

Следующие шаги

• Подключить к Claude
• Подключить к ChatGPT