Zum Inhalt springen
Cervus IT Logo – ein Hirsch mit digitalem Geweih

Mehr als Software

Lokale KI für Unternehmen.
Wir bauen, betreiben und warten sie.

Ihre eigene KI, ohne eigenes KI-Team. Wir richten Sprachmodelle auf Hardware in Ihrem Haus oder auf einem eigenen Server im Rechenzentrum ein und übernehmen den Betrieb. Das Cervus Gateway schützt Daten, steuert Zugriffe und belegt die Nutzung.

Alles aus einer Hand

Von der Planung
bis zum laufenden Betrieb.

Sie haben einen Ansprechpartner für Hardware, Modelle, Gateway und Betrieb.

  1. Planen

    Wir klären Anwendungsfälle, Schutzbedarf und Nutzerzahlen. Daraus ergibt sich, welche Hardware und welches Modell Sie brauchen.

  2. Aufsetzen

    Wir bauen die Hardware auf, installieren System, Sprachmodelle und Gateway und binden alles in Ihr Netz ein.

  3. Anbinden

    Wir schließen Chat, Fachanwendungen und Dokumentensuche an. Die Zugriffsrechte auf Ihre Datenquellen bleiben gewahrt.

  4. Betreiben und warten

    Wir überwachen die Anlage, spielen Updates und neue Modelle ein und beheben Störungen.

Betrieb

Drei Wege
für den Betrieb.

Sie entscheiden, wo Ihre Daten verarbeitet werden. Lokale und europäische Modelle lassen sich mischen. Das Cervus Gateway hält alles unter einer Kontrolle.

Gehostet

Der schnellste Start. Sie brauchen keine eigene Hardware.

Gateway
Rechenzentrum in Deutschland
Modelle
Rechenzentren in der EU

Gemischt

Vertrauliches bleibt lokal. Für alles andere stehen europäische Modelle bereit. Die Regel dafür legen Sie fest.

Gateway
Rechenzentrum in Deutschland
Modelle
In Ihrem HausRechenzentren in der EU

Ganz im eigenen Haus

Gateway und Modelle laufen bei Ihnen. Umfang und Zeitplan klären wir im Projekt.

Gateway
In Ihrem Haus
Modelle
In Ihrem Haus

Hardware

Die Hardware richtet sich
nach Ihrem Projekt.

Es gibt kein Gerät, das für alle passt. Wir legen die Größe nach Ihrem echten Bedarf aus. Nicht größer als nötig.

  • Wie viele Menschen nutzen die KI gleichzeitig?
  • Welche Aufgaben soll sie lösen: Chat, Dokumentensuche, Agenten?
  • Wie groß muss das Modell dafür sein?
  • Wie schnell sollen Antworten kommen?

Wie wählen wir die Hardware aus?

Beim Kunden im Einsatz

NVIDIA DGX Spark

Kompaktes Gerät für den Einsatz vor Ort. Von uns geplant, aufgesetzt und in die bestehende IT eingebunden. Geeignet für Einzelplatz, Entwicklung und kleinere Teams.

Unser Referenzsystem

AI Cube · 2 × RTX PRO 6000 Blackwell

Lokale Inferenz mit vLLM, ausgelegt für viele gleichzeitige Nutzer bei Chat, RAG und Agenten. Im eigenen Serverraum.

Für wen sich lokale KI lohnt

Für wen

Unternehmen mit vertraulichen Daten

Sie möchten Verträge, Personal-, Kunden- oder Konstruktionsdaten mit KI nutzen, ohne sie an externe KI-Anbieter zu senden. Typisch sind Chat und Assistenz, Suche in internen Dokumenten und Agenten.

Welches Problem

Kontrolle statt Blackbox

Öffentliche KI-Dienste bedeuten Datenabfluss an Dritte und Abhängigkeit vom Anbieter. Lokale KI verlagert die Verarbeitung in Ihre Umgebung.

Was Sie erhalten

Ein laufendes System

  • Hardware-Konzept und Auslegung
  • Aufbau mit Inferenz-Stack und OpenAI-kompatibler Schnittstelle
  • Anbindung an Ihre Anwendungen, RAG und MCP
  • Das Cervus Gateway für Schutz, Zugriffe und Nachweise
  • Dokumentation und Betrieb durch uns oder Übergabe an Ihr Team

vLLM, RAG und MCP kurz erklärt

vLLM: effiziente Inferenz

vLLM stellt Sprachmodelle auf Grafikkarten bereit und bedient viele Anfragen gleichzeitig. Anwendungen sprechen es über eine OpenAI-kompatible Schnittstelle an.

Mehr zu vLLM

RAG: Antworten aus Ihrem Wissen

Das System sucht passende Abschnitte aus Ihren Dokumenten und gibt sie dem Modell mit. Antworten können die Quellen nennen. Erfundene Angaben werden seltener, nicht unmöglich. Deshalb testen wir mit echten Fragen.

Mehr zu RAG

MCP: KI mit Werkzeugen verbinden

Über das Model Context Protocol greift die KI auf Systeme wie ERP oder n8n-Abläufe zu. Welche Aktionen erlaubt sind, legen Sie mit klaren Berechtigungen fest.

Mehr zu MCP

Leistung und Auslegung

Referenz-Aufbau: AI Cube mit 2 × RTX PRO 6000 Blackwell, DeepSeek-V4-Flash unter vLLM (beide Grafikkarten gemeinsam, FP4/FP8, 256K Kontext). Messwerte veröffentlichen wir, sobald ein vollständiges Messprotokoll vorliegt. Mit Datum, Modell- und Softwareversion und Messdefinition.

Worauf es bei Kennzahlen ankommt

  • Ein Nutzer oder viele gleichzeitig?
  • Tempo je Nutzer oder Gesamtdurchsatz aller Nutzer?
  • Spitzenwert oder Durchschnitt über das Messfenster?
  • Zeit bis zum ersten Wort bei welcher Eingabelänge?

Voraussetzungen und Grenzen

  • Bei Hardware vor Ort: Standort mit Strom, Kühlung und Netzwerk.
  • Lokale offene Modelle sind nicht in jeder Aufgabe gleichauf mit den größten Cloud-Modellen. Bei Bedarf kombinieren wir beides.

Voraussetzungen im Detail · Wie schnell ist lokale KI?

Nächster Schritt: Regeln zuerst klären? Zur KI-Governance-Beratung. Alle Funktionen des Gateways? Cervus Gateway ansehen.

Ratgeber

Weiterlesen im Ratgeber

Alle Beiträge im Ratgeber

Ihre Daten bleiben im Haus.

Lassen Sie uns über Ihre lokale KI sprechen. Hardware und Umfang klären wir gemeinsam.

Projekt besprechen