01 · Steuern
Nutzung steuern
- API-Schlüssel an versionierte Einsatzzwecke binden
- Modelle pro Schlüssel und Einsatzzweck freigeben
- Budgets, Rate-Limits und FinOps-Kostenkontrolle
Unser Produkt
Cervus Gateway.
Die Schaltzentrale Ihrer KI-Governance.
Ein KI-Gateway (AI Gateway) als Governance-Schicht zwischen Ihren Anwendungen und allen KI-Modellen – lokal wie Cloud. Für Unternehmen in der EU, betrieben in einem Rechenzentrum in Deutschland. Zugriffe steuern, Daten schützen, Kosten begrenzen und die Nutzung belegen. In OpenAI-kompatible Anwendungen integrierbar. Bei Managed lokaler KI ist das Gateway inklusive.
Ihre Anwendungen
Chat, Tools, interne Apps – via OpenAI-API
Cervus Gateway
Regeln · PII-Redaction · Prompt-Injection-Prüfung · Budgets · Audit
KI-Modelle
Lokal (vLLM) und Cloud – zentral verwaltet
Was das Gateway leistet
02 · Schützen
Daten schützen
- PII-Redaction: personenbezogene Daten erkennen und maskieren (NER mit deutschen Erkennungsprofilen)
- Prompt-Injection-Prüfung vor Weitergabe ans Modell (zuschaltbar, je nach Tarif und Modulen)
- Lokale und ausgewählte Cloud-Modelle unter zentraler Kontrolle
03 · Belegen
Entscheidungen belegen
- Tracing jeder Anfrage mit Metadaten
- Audit-Log der Einstellungen und Nachweis-Exporte (CSV/JSON)
- Grundlage für Nachweise nach EU AI Act und ISO/IEC 42001
Für wen das Gateway gedacht ist
Für Unternehmen, in denen mehrere Teams KI-Werkzeuge nutzen – oder nutzen wollen – und die diese Nutzung steuern, absichern und belegen müssen. Das Gateway ist einzeln erhältlich und arbeitet mit Ihren bestehenden Modellen, lokal oder in der Cloud.
Sie erhalten den Gateway-Zugang, die Einrichtung von Organisation, Schlüsseln, Einsatzzwecken und Regeln sowie die Anbindung Ihrer Modelle – eigene Anbieterschlüssel (Bring Your Own Key) oder selbst betriebene Modelle über vLLM oder Ollama. Welche Modelle?
Shadow AI
Werkzeuge werden ohne Freigabe genutzt; unklar ist, welche Daten wohin fließen. Was ist Shadow AI?
Kosten ohne Limits
Token-Verbrauch ohne Obergrenzen – die Rechnung kommt erst am Monatsende.
Datenabfluss
Eingaben mit personenbezogenen Daten landen ungeprüft bei externen Anbietern.
Fehlende Nachweise
Ohne Protokollierung lässt sich nicht belegen, wer welches Modell wofür genutzt hat.
Was verarbeitet, protokolliert und gespeichert wird
Das Gateway läuft in einem Rechenzentrum in Deutschland; Anbieterschlüssel werden verschlüsselt hinterlegt. So gehen wir mit Ihren Anfragen um:
Verarbeitet
Prompts und Antworten im Arbeitsspeicher. Die PII-Maskierung wirkt auf die ausgehende Anfrage, nicht auf die Modellantwort.
Immer protokolliert
Metadaten jeder Anfrage: u. a. Zeitpunkt, Schlüssel, Modell, Route, Tokens, Kosten, Latenz, Status, Einsatzzweck mit Version und die Trefferzahl der Schutzmodule – keine Inhalte.
Optional gespeichert
Prompt- und Antwortinhalte, maskiert oder vollständig – standardmäßig aus, pro Organisation oder Schlüssel aktivierbar. Einsicht durch Plattform-Administratoren wird protokolliert.
Aufbewahrung
Inhalte standardmäßig 30 Tage, Metadaten 365 Tage – jeweils einstellbar. Bei sitzungsbezogener Pseudonymisierung wird die Zuordnung höchstens eine Stunde zwischengespeichert.
Einführung in drei Schritten
Anwendungsfälle & Regeln klären
Welche Teams nutzen welche Modelle mit welchen Daten? Daraus entstehen Einsatzzwecke, Modellfreigaben, Limits und Budgets.
Anbinden & testen
Modelle und Routen einrichten, Schlüssel ausgeben, Anwendungen auf die OpenAI-kompatible Schnittstelle umstellen. PII-Maskierung und Prompt-Injection-Prüfung mit Ihren typischen Daten testen.
Betreiben & belegen
Verbrauch und Limits im Blick behalten, Einsatzzwecke versioniert anpassen und Nachweise exportieren.
Voraussetzungen & Grenzen
- Ihre Anwendungen nutzen eine OpenAI-kompatible Schnittstelle mit einstellbarer Base-URL; Bild- und Audio-Endpunkte werden derzeit nicht unterstützt.
- Die PII-Erkennung arbeitet statistisch und ist nicht lückenlos.
- Die Prompt-Injection-Prüfung ist eine zusätzliche Schutzschicht, keine Garantie.
- Das Gateway ersetzt keine rechtliche Bewertung wie eine Datenschutz-Folgenabschätzung – dabei hilft die KI-Governance-Beratung.
Die wichtigsten Fragen
Wie aufwendig ist die Integration in bestehende Systeme?
Über OpenAI-kompatible Schnittstellen, u. a. Chat Completions mit Streaming, Responses und Embeddings. In Anwendungen mit einstellbarer Base-URL tragen Sie Base-URL, API-Schlüssel und Modellnamen ein. Bild- und Audio-Endpunkte werden derzeit nicht unterstützt.
Welche Kontrollen bietet das Cervus Gateway?
Schlüssel an versionierte Einsatzzwecke gebunden, Modellfreigaben, Rate-Limits und Budgets mit harter Obergrenze. PII-Maskierung und Prompt-Injection-Prüfung als zuschaltbare Module.
Was protokolliert und speichert das Cervus Gateway?
Metadaten jeder Anfrage (u. a. Modell, Tokens, Kosten, Status, Einsatzzweck), ein Audit-Log der Einstellungen und Exporte als CSV/JSON. Prompt- und Antwortinhalte werden standardmäßig nicht gespeichert; die Inhaltsspeicherung ist optional.
Was ist in welchem Tarif enthalten?
Steuerung und Protokollierung gehören immer dazu. Kontingente, Limits und Schutzmodule wie die gründliche Prompt-Injection-Prüfung richten sich nach dem Tarif – Details klären wir im Gespräch.
Ratgeber
Weiterlesen im Ratgeber
KI-Gateway
AI Gateway oder API Gateway? Der Unterschied, der in der Praxis zählt
Ein API-Gateway regelt Schnittstellen, ein KI-Gateway regelt den Umgang mit Sprachmodellen. Warum das nicht dasselbe ist und wann Sie beides brauchen.
· 3 Min. Lesezeit
KI-Gateway
KI-Gateway: selbst bauen, Open Source betreiben oder einkaufen?
Eigenbau, Open-Source-Baukasten wie LiteLLM oder gemanagter Dienst: Was die drei Wege kosten, was sie können und woran sie im Betrieb scheitern.
· 3 Min. Lesezeit
KI-Gateway
KI-Kosten im Griff behalten: Budgets, Limits und die Fehler, die teuer werden
Warum KI-Rechnungen aus dem Ruder laufen, welche Grenzen wirklich greifen und wie Sie Kosten je Abteilung sichtbar machen – ohne die Nutzung auszubremsen.
· 3 Min. Lesezeit
Governance, die auch greift.
Sehen Sie das Cervus Gateway live – mit Ihren Anwendungsfällen. Auch als Teil der lokalen KI-Infrastruktur.
Demo anfragen