Langfuse MCP-Server: Traces, Prompts und Datasets

💡 Keine Installation? Nutze cloud.anythingmcp.com direkt. Einloggen, Connectors → Langfuse klicken, Zugangsdaten einfügen, MCP-API-Key erzeugen, fertig. Kein Docker, kein git clone, kein lokaler Server.

Langfuse

Lies ein Langfuse-Projekt mit deiner KI: LLM-Traces, Observations und Sessions mit Kosten, Tokens und Latenz, Metriken im Zeitverlauf, Scores und Evaluierungen, Prompts mit Versionen und Labels, Datasets, Dataset-Items und Experimente. Er kann außerdem Prompt-Versionen veröffentlichen, Labels verschieben, Scores ergänzen und Datasets aufbauen.

Einrichtung

Die Einrichtung dauert etwa 3 Minuten. Du brauchst ein Langfuse-Projekt auf Langfuse Cloud (EU, US, Japan oder HIPAA) oder auf einem selbst gehosteten Langfuse v4.

1. Öffne in Langfuse das Projekt, dann Settings, API Keys, Create new API keys. Nimm einen Projekt-Key, keinen Organisations-Key.
2. Kopiere den Public Key (pk-lf-...) in LANGFUSE_PUBLIC_KEY und den Secret Key (sk-lf-..., wird nur einmal angezeigt) in LANGFUSE_SECRET_KEY. Der Connector sendet sie als HTTP Basic Auth.
3. Setze LANGFUSE_HOST auf die Region des Projekts, ohne abschließenden Schrägstrich: https://cloud.langfuse.com (EU), https://us.cloud.langfuse.com (US), https://jp.cloud.langfuse.com (Japan), https://hipaa.cloud.langfuse.com (HIPAA) oder deine selbst gehostete Adresse. Keys einer Region funktionieren in keiner anderen.
4. Installiere den Connector und führe langfuse_get_project aus, um die Keys zu prüfen; langfuse_get_health zeigt die Server-Version.

Kosten: Kein Tool lässt ein Modell laufen. Der Connector liest und schreibt nur Langfuse-Daten; die angezeigten Kosten sind die, die Langfuse für die LLM-Aufrufe deiner Anwendungen erfasst hat.

Tracing-Daten: In Langfuse v4 ist ein Trace die Menge der Observations (Spans, Generations, Tool-Aufrufe, Events) mit derselben traceId, und eine Session die Menge der Traces mit derselben sessionId. Der Connector liest sie aus der Observations API v2 und der Metrics API v2, dem Echtzeit-Lesepfad; die alten Endpunkte /traces, /sessions und /metrics/daily sind veraltet (Langfuse Cloud bedient sie bis zum 16. November 2026). Andere Endpunkte können etwa 10 Minuten hinter der Erfassung zurückliegen.

• langfuse_list_observations listet Zeilen, die neuesten zuerst, immer begrenzt durch from_start_time und to_start_time. Filter: type (GENERATION für LLM-Aufrufe), name, user_id, session_id, trace_id, level (ERROR für Fehler), environment, is_root_observation (true liefert eine Zeile pro Trace) oder ein strukturierter filter. fields wählt die Feldgruppen core, basic, time, io (Ein- und Ausgabe), metadata, model, usage (Tokens und Kosten), prompt, metrics (Latenz) und trace_context; Standard ist core,basic,usage.
• langfuse_get_trace liefert alle Observations eines Traces mit Ein- und Ausgabe, Modell, Nutzung und Latenz; die Wurzel hat keine parentObservationId und trägt Ein- und Ausgabe des Traces.
• langfuse_get_session liefert standardmäßig eine Zeile pro Trace einer Session; root_only: false liefert alle Observations.
• langfuse_query_metrics aggregiert. query ist ein JSON-String mit view (observations, scores-numeric, scores-boolean, scores-categorical), metrics (Messgrößen wie count, latency, totalTokens, totalCost oder timeToFirstToken, mit den Aggregationen sum, avg, count, max, min, p50, p75, p90, p95, p99), dimensions (etwa providedModelName, traceName, promptName, promptVersion, environment, release), timeDimension (pro Minute, Stunde, Tag, Woche oder Monat), filters, fromTimestamp und toTimestamp. Nach Feldern mit vielen Werten wie userId und sessionId kann man filtern, aber nicht gruppieren.

Scores: langfuse_list_scores filtert nach name, source (API, ANNOTATION, EVAL), data_type, Trace, Session, Observation, Experiment, Wertebereich und Zeitraum; langfuse_list_score_configs zeigt die Score-Definitionen. langfuse_create_score ergänzt einen Score (numerisch, boolesch als 0 oder 1, kategorisch oder Text) an einem Trace, einer Observation, einer Session oder einem Experiment-Run. Er wird asynchron verarbeitet (HTTP 202), und dieselbe score_id erneut gesendet überschreibt ihn.

Prompts: langfuse_list_prompts listet Namen mit Versionen, Labels und Tags; langfuse_get_prompt liefert die Version mit dem Label production, sofern weder version noch label angegeben ist. langfuse_create_prompt_version veröffentlicht eine neue Version eines Text-Prompts (mit {{variables}}) oder Chat-Prompts, und ein neuer Name legt den Prompt an; langfuse_update_prompt_labels verschiebt Labels wie production oder staging auf eine Version. Wer production verschiebt, ändert, was deine Anwendungen abrufen, deshalb fragt dich die KI vorher. Ordnernamen wie support/greeting werden unverändert übergeben.

Datasets und Experimente: langfuse_list_datasets, langfuse_get_dataset und langfuse_create_dataset (optional mit JSON-Schemas für Eingabe und erwartete Ausgabe); langfuse_list_dataset_items, langfuse_get_dataset_item und langfuse_upsert_dataset_item (legt ein Item an oder aktualisiert es, wenn item_id existiert; status ARCHIVED blendet es für neue Runs aus). langfuse_list_experiments listet Dataset-Runs und Experimente mit ihren Scores; from_start_time ist Pflicht.

Langfuses eigener MCP-Server: Langfuse betreibt auch einen nativen MCP-Server unter <LANGFUSE_HOST>/api/public/mcp mit demselben Key-Paar, vor allem für Prompt-Management. Dieser Connector deckt Prompts ebenfalls ab, dazu Tracing-Daten, Metriken, Scores und Datasets.

Bei der Installation deaktiviert: nichts. Alle 20 Tools sind aktiv; die schreibenden Tools ergänzen Prompt-Versionen, Labels, Scores, Datasets und Dataset-Items, und keines löscht etwas.

Datenformate: Zeiten sind ISO 8601 in UTC. Kosten sind in USD; in v2-Observations sind inputPrice, outputPrice und totalPrice Strings wegen der Dezimalgenauigkeit, und input und output kommen als JSON-Text. Latenz und Zeit bis zum ersten Token sind in Metriken Millisekunden.

Blättern: Observations, Traces, Sessions, Scores und Experimente nutzen Cursor: Die KI gibt meta.cursor als cursor zurück, bis er fehlt (Observations: standardmäßig 50 Zeilen, bis zu 1.000). Prompts, Datasets, Dataset-Items und Score-Configs nutzen page (ab 1) und limit (Standard 50, höchstens 100); meta.totalPages sagt, wie viele Seiten es gibt.

Limits: Selbst gehostetes Langfuse muss für die Observation- und Metrik-Tools v4 oder neuer sein. Daten außerhalb der Observations und Metrics API v2 können etwa 10 Minuten verzögert sein.

Häufige Fehler: 400 bedeutet einen falschen Parameter (ein fehlerhaftes filter- oder query-JSON, eine Gruppierung nach einem Feld mit vielen Werten, ein limit über dem Maximum); 401 ein falsches Key-Paar oder die falsche Region; 403, dass der Key diesen Endpunkt nicht nutzen darf (nimm einen Projekt-Key); 404 einen unbekannten Prompt, ein unbekanntes Dataset oder Item oder eine selbst gehostete Version ohne die v2-Endpunkte; 429 ein Rate Limit (die KI wartet, statt in einer Schleife zu wiederholen).

Der Connector löscht keine Traces, Prompts, Datasets oder Scores und sendet keine Traces (das übernehmen die Langfuse-SDKs über OpenTelemetry). Annotation Queues, LLM-Connections und die Verwaltung von Organisation oder SCIM sind nicht enthalten.

Voraussetzungen: LANGFUSE_HOST, LANGFUSE_PUBLIC_KEY, LANGFUSE_SECRET_KEY

Connector lokal installieren

curl -fsSL https://raw.githubusercontent.com/HelpCode-ai/anythingmcp/main/docker-compose.quickstart.yml -o docker-compose.yml
printf 'JWT_SECRET=%s\nENCRYPTION_KEY=%s\n' "$(openssl rand -hex 32)" "$(openssl rand -hex 32)" > .env
docker compose up -d

Öffne http://localhost:3000/connectors/store, wähle Langfuse und trage die unter Voraussetzungen aufgelisteten Variablen ein.

Verfügbare Tools

Beispiel-Prompts

• „Was haben unsere LLM-Aufrufe in den letzten 7 Tagen pro Modell und Tag gekostet?“
• „Zeig mir die Generations von gestern mit Level ERROR, mit Modell, Eingabe und Ausgabe.“
• „Zeig mir das ganze Gespräch der Session chat-8f21 mit Ein- und Ausgabe jedes Turns.“
• „Wie hoch ist die p95-Latenz pro Trace-Name diese Woche, und welcher ist langsamer geworden?“
• „Veröffentliche eine neue Version des Prompts support/greeting mit freundlicherem Ton, aber verschieb das Label production noch nicht.“

Nächste Schritte

• Mit Claude verbinden
• Mit ChatGPT verbinden