Managed lokale KI und KI-Governance für Unternehmen.

Wir sind ein junges Technologieunternehmen aus Deggendorf mit Wurzeln in der Softwareentwicklung und IT-Projektleitung. Heute konzentrieren wir uns auf lokale KI-Infrastruktur, das Cervus Gateway und KI-Governance-Beratung – damit Unternehmen KI kontrolliert und nachvollziehbar einsetzen können.

Das hängt von der Betriebsform ab: Bei lokaler KI laufen die Modelle auf Hardware in Ihrem Unternehmen oder auf einem dedizierten GPU-Server, den wir für Sie betreiben – je nach Paket in einem Rechenzentrum in der EU (Finnland) oder in Deutschland. Das Cervus Gateway betreiben wir in einem Rechenzentrum in Deutschland. Die gemanagte KI aus europäischer Cloud (Cervus KI) läuft in Rechenzentren in Europa. Welche Anbieter und Standorte im Einzelnen beteiligt sind, legen wir im Projekt offen und regeln es im Vertrag zur Auftragsverarbeitung.

Das Cervus Gateway und vLLM stellen OpenAI-kompatible Schnittstellen bereit. Das Gateway unterstützt unter anderem Chat Completions (inklusive Streaming), die Responses-API, Embeddings und die Modellliste; Tool-Aufrufe werden durchgereicht. In Anwendungen, die eine eigene OpenAI-Base-URL erlauben – etwa n8n oder selbst entwickelte Software –, tragen Sie Base-URL, API-Schlüssel und Modellnamen ein.

Wie viel Aufwand darüber hinaus entsteht, hängt vom Werkzeug ab: Bild- und Audio-Endpunkte sowie die ältere Completions-Schnittstelle werden derzeit nicht unterstützt, und Prompts sollten mit dem gewählten Modell getestet werden.

Offene Modelle ersetzen keine Compliance, können sie aber erleichtern: Anbieter von Open-Weights-Modellen veröffentlichen häufig Modellkarten, Lizenzen und Angaben zu Trainingsdaten. Diese Informationen helfen beim Aufbau der eigenen Dokumentation und Risikobewertung. Welche Pflichten konkret gelten, hängt von Ihrer Rolle (Anbieter oder Betreiber) und der Risikoklasse Ihres Anwendungsfalls ab – nicht davon, ob ein Modell offen oder geschlossen ist.

Es sitzt als Governance-Schicht zwischen Ihren Anwendungen und den KI-Modellen: Es steuert Zugriffe über API-Schlüssel, Einsatzzwecke und Modellfreigaben, maskiert personenbezogene Daten vor der Weitergabe, setzt Limits und Budgets durch und dokumentiert die Nutzung mit Metadaten und exportierbaren Nachweisen. Die Schnittstelle ist OpenAI-kompatibel; das Gateway ist auch einzeln, ohne lokale KI, einsetzbar.