Langfuse MCP mit Microsoft Copilot verbinden

💡 Keine Installation? Nutze cloud.anythingmcp.com direkt. Einloggen, Connectors → Langfuse klicken, Zugangsdaten einfügen, MCP-API-Key erzeugen, fertig. Kein Docker, kein git clone, kein lokaler Server.

Langfuse + Microsoft Copilot

Lies ein Langfuse-Projekt mit deiner KI: LLM-Traces, Observations und Sessions mit Kosten, Tokens und Latenz, Metriken im Zeitverlauf, Scores und Evaluierungen, Prompts mit Versionen und Labels, Datasets, Dataset-Items und Experimente. Er kann außerdem Prompt-Versionen veröffentlichen, Labels verschieben, Scores ergänzen und Datasets aufbauen.

Voraussetzungen

Die vollständige Setup-Anleitung ist in den Connector eingebaut (im Store sichtbar, wenn du den Connector auswählst). Benötigte Umgebungsvariablen für diesen Connector:

LANGFUSE_HOST, LANGFUSE_PUBLIC_KEY, LANGFUSE_SECRET_KEY

Schritt 1 — Zugangsdaten holen

Die Einrichtung dauert etwa 3 Minuten. Du brauchst ein Langfuse-Projekt auf Langfuse Cloud (EU, US, Japan oder HIPAA) oder auf einem selbst gehosteten Langfuse v4.

1. Öffne in Langfuse das Projekt, dann Settings, API Keys, Create new API keys. Nimm einen Projekt-Key, keinen Organisations-Key.
2. Kopiere den Public Key (pk-lf-...) in LANGFUSE_PUBLIC_KEY und den Secret Key (sk-lf-..., wird nur einmal angezeigt) in LANGFUSE_SECRET_KEY. Der Connector sendet sie als HTTP Basic Auth.
3. Setze LANGFUSE_HOST auf die Region des Projekts, ohne abschließenden Schrägstrich: https://cloud.langfuse.com (EU), https://us.cloud.langfuse.com (US), https://jp.cloud.langfuse.com (Japan), https://hipaa.cloud.langfuse.com (HIPAA) oder deine selbst gehostete Adresse. Keys einer Region funktionieren in keiner anderen.
4. Installiere den Connector und führe langfuse_get_project aus, um die Keys zu prüfen; langfuse_get_health zeigt die Server-Version.

Kosten: Kein Tool lässt ein Modell laufen. Der Connector liest und schreibt nur Langfuse-Daten; die angezeigten Kosten sind die, die Langfuse für die LLM-Aufrufe deiner Anwendungen erfasst hat.

Tracing-Daten: In Langfuse v4 ist ein Trace die Menge der Observations (Spans, Generations, Tool-Aufrufe, Events) mit derselben traceId, und eine Session die Menge der Traces mit derselben sessionId. Der Connector liest sie aus der Observations API v2 und der Metrics API v2, dem Echtzeit-Lesepfad; die alten Endpunkte /traces, /sessions und /metrics/daily sind veraltet (Langfuse Cloud bedient sie bis zum 16. November 2026). Andere Endpunkte können etwa 10 Minuten hinter der Erfassung zurückliegen.

• langfuse_list_observations listet Zeilen, die neuesten zuerst, immer begrenzt durch from_start_time und to_start_time. Filter: type (GENERATION für LLM-Aufrufe), name, user_id, session_id, trace_id, level (ERROR für Fehler), environment, is_root_observation (true liefert eine Zeile pro Trace) oder ein strukturierter filter. fields wählt die Feldgruppen core, basic, time, io (Ein- und Ausgabe), metadata, model, usage (Tokens und Kosten), prompt, metrics (Latenz) und trace_context; Standard ist core,basic,usage.
• langfuse_get_trace liefert alle Observations eines Traces mit Ein- und Ausgabe, Modell, Nutzung und Latenz; die Wurzel hat keine parentObservationId und trägt Ein- und Ausgabe des Traces.
• langfuse_get_session liefert standardmäßig eine Zeile pro Trace einer Session; root_only: false liefert alle Observations.
• langfuse_query_metrics aggregiert. query ist ein JSON-String mit view (observations, scores-numeric, scores-boolean, scores-categorical), metrics (Messgrößen wie count, latency, totalTokens, totalCost oder timeToFirstToken, mit den Aggregationen sum, avg, count, max, min, p50, p75, p90, p95, p99), dimensions (etwa providedModelName, traceName, promptName, promptVersion, environment, release), timeDimension (pro Minute, Stunde, Tag, Woche oder Monat), filters, fromTimestamp und toTimestamp. Nach Feldern mit vielen Werten wie userId und sessionId kann man filtern, aber nicht gruppieren.

Scores: langfuse_list_scores filtert nach name, source (API, ANNOTATION, EVAL), data_type, Trace, Session, Observation, Experiment, Wertebereich und Zeitraum; langfuse_list_score_configs zeigt die Score-Definitionen. langfuse_create_score ergänzt einen Score (numerisch, boolesch als 0 oder 1, kategorisch oder Text) an einem Trace, einer Observation, einer Session oder einem Experiment-Run. Er wird asynchron verarbeitet (HTTP 202), und dieselbe score_id erneut gesendet überschreibt ihn.

Prompts: langfuse_list_prompts listet Namen mit Versionen, Labels und Tags; langfuse_get_prompt liefert die Version mit dem Label production, sofern weder version noch label angegeben ist. langfuse_create_prompt_version veröffentlicht eine neue Version eines Text-Prompts (mit {{variables}}) oder Chat-Prompts, und ein neuer Name legt den Prompt an; langfuse_update_prompt_labels verschiebt Labels wie production oder staging auf eine Version. Wer production verschiebt, ändert, was deine Anwendungen abrufen, deshalb fragt dich die KI vorher. Ordnernamen wie support/greeting werden unverändert übergeben.

Datasets und Experimente: langfuse_list_datasets, langfuse_get_dataset und langfuse_create_dataset (optional mit JSON-Schemas für Eingabe und erwartete Ausgabe); langfuse_list_dataset_items, langfuse_get_dataset_item und langfuse_upsert_dataset_item (legt ein Item an oder aktualisiert es, wenn item_id existiert; status ARCHIVED blendet es für neue Runs aus). langfuse_list_experiments listet Dataset-Runs und Experimente mit ihren Scores; from_start_time ist Pflicht.

Langfuses eigener MCP-Server: Langfuse betreibt auch einen nativen MCP-Server unter <LANGFUSE_HOST>/api/public/mcp mit demselben Key-Paar, vor allem für Prompt-Management. Dieser Connector deckt Prompts ebenfalls ab, dazu Tracing-Daten, Metriken, Scores und Datasets.

Bei der Installation deaktiviert: nichts. Alle 20 Tools sind aktiv; die schreibenden Tools ergänzen Prompt-Versionen, Labels, Scores, Datasets und Dataset-Items, und keines löscht etwas.

Datenformate: Zeiten sind ISO 8601 in UTC. Kosten sind in USD; in v2-Observations sind inputPrice, outputPrice und totalPrice Strings wegen der Dezimalgenauigkeit, und input und output kommen als JSON-Text. Latenz und Zeit bis zum ersten Token sind in Metriken Millisekunden.

Blättern: Observations, Traces, Sessions, Scores und Experimente nutzen Cursor: Die KI gibt meta.cursor als cursor zurück, bis er fehlt (Observations: standardmäßig 50 Zeilen, bis zu 1.000). Prompts, Datasets, Dataset-Items und Score-Configs nutzen page (ab 1) und limit (Standard 50, höchstens 100); meta.totalPages sagt, wie viele Seiten es gibt.

Limits: Selbst gehostetes Langfuse muss für die Observation- und Metrik-Tools v4 oder neuer sein. Daten außerhalb der Observations und Metrics API v2 können etwa 10 Minuten verzögert sein.

Häufige Fehler: 400 bedeutet einen falschen Parameter (ein fehlerhaftes filter- oder query-JSON, eine Gruppierung nach einem Feld mit vielen Werten, ein limit über dem Maximum); 401 ein falsches Key-Paar oder die falsche Region; 403, dass der Key diesen Endpunkt nicht nutzen darf (nimm einen Projekt-Key); 404 einen unbekannten Prompt, ein unbekanntes Dataset oder Item oder eine selbst gehostete Version ohne die v2-Endpunkte; 429 ein Rate Limit (die KI wartet, statt in einer Schleife zu wiederholen).

Der Connector löscht keine Traces, Prompts, Datasets oder Scores und sendet keine Traces (das übernehmen die Langfuse-SDKs über OpenTelemetry). Annotation Queues, LLM-Connections und die Verwaltung von Organisation oder SCIM sind nicht enthalten.

Schritt 2 — Adapter installieren

curl -fsSL https://raw.githubusercontent.com/HelpCode-ai/anythingmcp/main/docker-compose.quickstart.yml -o docker-compose.yml
printf 'JWT_SECRET=%s\nENCRYPTION_KEY=%s\n' "$(openssl rand -hex 32)" "$(openssl rand -hex 32)" > .env
docker compose up -d

Schritt 3 — Connector in Microsoft Copilot hinzufügen

Deine Server-URL: Öffne in AnythingMCP MCP Servers → den Server, auf dem dieser Connector liegt, und kopiere seine URL (https://cloud.anythingmcp.com/mcp/…). Setze sie überall ein, wo diese Anleitung YOUR_SERVER_ID zeigt.

Microsoft Copilot nutzt MCP-Server über Agents, die du in Copilot Studio baust: Du fügst AnythingMCP einem Agent als Tool hinzu und veröffentlichst den Agent dann in Microsoft 365 Copilot und Teams. Copilot Studio verbindet sich aus der Cloud von Microsoft per Streamable HTTP, das AnythingMCP unterstützt.

1. Öffne in Copilot Studio deinen Agent (oder leg einen an), geh zu Tools und wähle Add a tool → New tool → Model Context Protocol.
2. Trag einen Server name ein (zum Beispiel AnythingMCP), eine Server description, die sagt, was der Connector kann, und die Server URL https://cloud.anythingmcp.com/mcp/YOUR_SERVER_ID. Anhand der Beschreibung entscheidet Copilot Studio, wann es den Server aufruft.
3. Wähle bei der Authentifizierung API key, setze Type auf Header und den Header-Namen auf X-API-Key und klicke auf Create.
4. Wähle in Add tool die Option Create a new connection, füge einen MCP-API-Key aus AnythingMCP ein (MCP Servers → dein Server → API keys) und klicke auf Add to agent.
5. Probier es im Test-Bereich des Agents aus: Bitte um etwas, wofür er die Langfuse-Tools braucht.
6. Klicke auf Publish, dann auf Channels → Microsoft 365 and Microsoft Teams, lass Make agent available in Microsoft Copilot aktiviert und wähle Add channel. See agent in Teams installiert den Agent für dich; in Microsoft 365 Copilot tippst du @ und wählst den Agent aus.

Lieber eine Anmeldung pro Person? Wähle statt API key OAuth 2.0 → Dynamic discovery: Dann meldet sich jede Person beim ersten Aufruf des Agents bei AnythingMCP an.

Du hostest selbst? Nimm statt https://cloud.anythingmcp.com die öffentliche HTTPS-Adresse deiner Instanz. Copilot Studio verbindet sich aus der Cloud von Microsoft, localhost funktioniert deshalb nicht.

Verfügbare Tools

Beispiel-Prompts

• „Was haben unsere LLM-Aufrufe in den letzten 7 Tagen pro Modell und Tag gekostet?“
• „Zeig mir die Generations von gestern mit Level ERROR, mit Modell, Eingabe und Ausgabe.“
• „Zeig mir das ganze Gespräch der Session chat-8f21 mit Ein- und Ausgabe jedes Turns.“
• „Wie hoch ist die p95-Latenz pro Trace-Name diese Woche, und welcher ist langsamer geworden?“
• „Veröffentliche eine neue Version des Prompts support/greeting mit freundlicherem Ton, aber verschieb das Label production noch nicht.“

FAQ

Für welchen Copilot gilt das? Für Microsoft 365 Copilot im Unternehmen, über Agents aus Copilot Studio. Die Microsoft-Copilot-App für private Konten bietet keine Möglichkeit, einen eigenen MCP-Server hinzuzufügen.

Was brauche ich? Ein Arbeitskonto mit Zugang zu Copilot Studio (Lizenz oder Testversion), um den Agent zu bauen. Wer ihn in Microsoft 365 Copilot oder Teams nutzen soll, braucht Zugriff auf den Agent: Teile ihn oder lass ihn von einem Admin für die Organisation veröffentlichen. Wendet deine Organisation Datenrichtlinien auf Power-Platform-Connectors an, gelten sie auch für MCP-Server.

Der Agent ruft die Tools nicht auf. Prüfe, dass der Header-Name genau X-API-Key lautet und der Schlüssel zum selben MCP-Server gehört wie die URL, und formuliere die Server description konkret: Copilot Studio entscheidet anhand der Beschreibung, wann es den Server aufruft. Veröffentliche den Agent nach jeder Änderung erneut; in einem offenen Chat holst du die neue Version mit „start over“.

Nächste Schritte

• Connector-Startseite
• Mit Claude verbinden
• Mit ChatGPT verbinden
• Mit Cursor verbinden
• Mit Gemini verbinden
• Mit Meta Muse verbinden