Chroma MCP Server

Der Chroma MCP Server gibt KI-Assistenten wie Claude Code, Codex oder Cursor ein Gedächtnis auf Basis der Vektordatenbank Chroma. Der Assistent kann damit Sammlungen (Collections) anlegen, Dokumente mit Metadaten ablegen und später per semantischer Suche, Volltextsuche oder Metadatenfilter wiederfinden. Der Server wird vom Chroma-Team selbst im Repository chroma-core/chroma-mcp gepflegt und steht unter der Apache-2.0-Lizenz.

Was ist der Chroma MCP Server?

Chroma speichert Texte als Einbettungen, also als Zahlenvektoren, die inhaltliche Nähe ausdrücken. Dadurch findet man Passagen nicht nur über exakte Stichwörter, sondern über ihre Bedeutung. Der MCP-Server macht diese Funktionen für Sprachmodelle bedienbar: Er läuft als kleines Python-Programm, das der MCP-Client per STDIO startet, und reicht die Aufrufe des Modells an eine Chroma-Instanz weiter. Laut README gibt es vier Client-Typen: flüchtig im Arbeitsspeicher, persistent in einem lokalen Datenverzeichnis, per HTTP zu einer selbst betriebenen Instanz oder zu Chroma Cloud.

Welche Werkzeuge stehen zur Verfügung?

Das README nennt zwölf Werkzeuge. Zur Verwaltung von Sammlungen dienen chroma_list_collections, chroma_create_collection, chroma_peek_collection, chroma_get_collection_info, chroma_get_collection_count, chroma_modify_collection und chroma_delete_collection. Für die Dokumente selbst gibt es chroma_add_documents, chroma_query_documents, chroma_get_documents, chroma_update_documents und chroma_delete_documents. Beim Anlegen einer Sammlung lassen sich HNSW-Parameter für die Suche und eine Einbettungsfunktion wählen; unterstützt werden laut Dokumentation default, cohere, openai, jina, voyageai und roboflow.

Wofür ist er besonders nützlich?

Der größte Nutzen liegt in Wissensbasen und Langzeitgedächtnis. Wer Projektnotizen, Dokumentation oder frühere Entscheidungen in Chroma ablegt, kann den Assistenten in späteren Sitzungen danach fragen, ohne alles erneut in den Kontext zu kopieren. Auch für Prototypen von Retrieval-Augmented-Generation-Anwendungen (RAG) ist er praktisch, weil sich Sammlungen und Abfragen im Gespräch ausprobieren lassen, bevor man sie in Code gießt. Im Unterschied zu einem reinen Datei-Index behält Chroma Metadaten und Einbettungsfunktion pro Sammlung bei, sodass spätere Abfragen konsistent bleiben.

Einrichtung

Die Einrichtung läuft über uvx: Im MCP-Client wird der Befehl uvx mit dem Argument chroma-mcp eingetragen. Ohne weitere Angaben startet ein flüchtiger Client. Mit --client-type persistent und --data-dir legen Sie ein dauerhaftes Datenverzeichnis fest. Für Chroma Cloud übergeben Sie Tenant, Datenbank und API-Schlüssel, für eine eigene Instanz Host, Port und Zugangsdaten. Alternativ lässt sich alles über Umgebungsvariablen oder eine .env-Datei konfigurieren. API-Schlüssel für externe Einbettungsfunktionen folgen dem Muster CHROMA_COHERE_API_KEY.

Sicherheit und Datenschutz

Mit chroma_delete_collection und chroma_delete_documents kann der Assistent Daten dauerhaft entfernen. Nutzen Sie für erste Versuche den flüchtigen Client oder ein Testverzeichnis. Schlüssel in den Argumenten der Client-Konfiguration sind auf einem eigenen Rechner vertretbar, besser ist eine .env-Datei mit eingeschränkten Rechten. Dokumente, die ein externer Einbettungsdienst verarbeitet, verlassen Ihren Rechner. Und was der Assistent aus Chroma abruft, gelangt in den Kontext des Modells und damit zum Modellanbieter.

Kosten

Der Server ist quelloffen. Chroma selbst lässt sich kostenlos betreiben. Für Chroma Cloud nennt die offizielle Preisseite einen kostenlosen Starter-Plan mit Startguthaben, nutzungsbasierte Abrechnung nach Speicher, Schreib- und Abfragevorgängen sowie Team- und Enterprise-Pläne; Details finden Sie auf der Preisseite von Chroma.

Für wen lohnt sich der Chroma MCP Server?

Er lohnt sich für Entwicklerinnen und Entwickler, die ihrem Assistenten ein durchsuchbares Gedächtnis geben oder RAG-Ideen schnell erproben wollen. Wer eine andere Vektordatenbank nutzt, braucht deren eigenen Server. Beachten Sie außerdem: Das Repository wurde zuletzt im September 2025 aktualisiert; der Funktionsumfang ist überschaubar, ein laufender Ausbau ist derzeit nicht erkennbar.

Python-Werkzeug uv (für uvx) sowie ein MCP-Client mit STDIO-Unterstützung, etwa Claude Code, Codex, Cursor oder Claude Desktop. Für Chroma Cloud ein Konto mit Tenant, Datenbank und API-Schlüssel.

Mit dem Chroma MCP Server legt ein KI-Assistent Vektorsammlungen an und durchsucht sie semantisch. Dieser Ratgeber führt von der Installation bis zur ersten Abfrage.

Schritt 1: Voraussetzungen prüfen

Sie benötigen das Python-Werkzeug uv, damit der Befehl uvx verfügbar ist, und einen MCP-Client mit STDIO-Unterstützung, etwa Claude Code, Codex, Cursor oder Claude Desktop. Für Chroma Cloud kommen Tenant, Datenbankname und API-Schlüssel hinzu.

Schritt 2: Server eintragen

Tragen Sie im Client einen STDIO-Server mit dem Befehl uvx und dem Argument chroma-mcp ein. Ohne weitere Optionen startet ein flüchtiger Client, dessen Daten nach dem Beenden verschwinden. Das ist ideal zum Ausprobieren.

Client-Typ wählen

Für dauerhafte Daten ergänzen Sie die Argumente --client-type persistent und --data-dir mit einem absoluten Pfad. Für Chroma Cloud nutzen Sie --client-type cloud mit --tenant, --database und --api-key, für eine eigene Instanz --client-type http mit Host, Port und Zugangsdaten. Alternativ setzen Sie Umgebungsvariablen wie CHROMA_CLIENT_TYPE oder eine .env-Datei, die Sie mit --dotenv-path einbinden.

Einbettungsfunktion festlegen

Beim Anlegen einer Sammlung wählt der Assistent eine Einbettungsfunktion, etwa default, openai oder cohere. Für externe Dienste hinterlegen Sie den Schlüssel als CHROMA_OPENAI_API_KEY oder CHROMA_COHERE_API_KEY. Die Wahl wird in der Sammlung gespeichert und bei späteren Abfragen wiederverwendet.

Schritt 3: Erste Abfrage testen

Bitten Sie den Assistenten, eine Sammlung anzulegen, drei Textabschnitte zu speichern und anschließend eine Frage in eigenen Worten zu stellen. Prüfen Sie mit chroma_peek_collection, was tatsächlich gespeichert wurde.

Sicher arbeiten

Löschwerkzeuge entfernen Daten dauerhaft. Bestätigen Sie solche Aufrufe einzeln und arbeiten Sie zunächst mit Testdaten. Legen Sie keine Geheimnisse in Sammlungen ab, die an externe Einbettungsdienste gehen.

uvx chroma-mcp

Lokal keine; für Chroma Cloud API-Schlüssel, Tenant und Datenbank, für selbst betriebene Instanzen benutzerdefinierte Zugangsdaten. Übergabe per Argument oder Umgebungsvariable.

Lesen, Anlegen, Ändern und Löschen von Sammlungen und Dokumenten in der konfigurierten Chroma-Instanz.

Der Server läuft lokal. Dokumente und Abfrageergebnisse gelangen in den Kontext des KI-Clients; bei externen Einbettungsfunktionen werden Texte an den jeweiligen Dienst gesendet, bei Chroma Cloud an die Chroma-Server.

Löschwerkzeuge entfernen Sammlungen und Dokumente dauerhaft; API-Schlüssel können in der Client-Konfiguration stehen; sensible Inhalte können an Einbettungsdienste oder den Modellanbieter gelangen.