Zum Inhalt springen
Cervus IT Logo – ein Hirsch mit digitalem Geweih

Wissen

Häufige Fragen.

Antworten rund um lokale KI, das Cervus Gateway, Datenschutz und den EU AI Act – ohne Fachchinesisch. Ausführlichere Einordnungen finden Sie im Ratgeber.

Unternehmen & Fokus

Warum Cervus IT?

Wir sind ein junges Technologieunternehmen aus Deggendorf mit Wurzeln in der Softwareentwicklung und IT-Projektleitung. Heute konzentrieren wir uns auf lokale KI-Infrastruktur, das Cervus Gateway und KI-Governance-Beratung – damit Unternehmen KI kontrolliert und nachvollziehbar einsetzen können.

Warum ein Partner aus Niederbayern?

Als Unternehmen aus Deggendorf sind wir für unsere Kunden in der Region greifbar. Wir bieten persönlichen Kontakt und eine unkomplizierte Projektleitung auf Augenhöhe – vor Ort in Niederbayern oder remote.

Welchen Nutzen bringt die KI-Integration für mein Unternehmen?

Typische Ziele sind:

1. Prozessbeschleunigung: Routineaufgaben werden automatisiert, Kapazitäten für wertschöpfende Tätigkeiten werden frei.

2. Wissensmanagement: Interne Dokumentationen, Richtlinien oder Verträge werden mit RAG durchsuchbar und abfragbar.

3. Skalierbarkeit: Wachsende Anfragen lassen sich ohne proportional steigenden Personalaufwand bearbeiten.

Ob und wie stark sich diese Effekte einstellen, hängt von Datenqualität und Prozessen ab – das klären wir vor Projektstart.

Lokale KI & Infrastruktur

Was bedeutet lokale KI bzw. On-Premise-LLM?

Lokale KI heißt: Sprachmodelle (LLMs) laufen auf Hardware, die Sie kontrollieren – im eigenen Serverraum oder dediziert für Sie betrieben. Anfragen und Dokumente müssen dafür nicht an externe KI-Anbieter gesendet werden. In der Regel werden Open-Weights-Modelle eingesetzt, die über einen Inferenz-Server wie vLLM bereitgestellt werden.

Was ist ein Inferenz-Stack?

Ein Inferenz-Stack ist die technische Grundlage, um bereits trainierte KI-Modelle wie LLMs auszuführen. Er kombiniert Hardware (GPUs) mit Software für Modellbereitstellung, Schnittstellen, Monitoring und Updates, damit die KI Anfragen zuverlässig und schnell beantwortet.

Was ist vLLM?

vLLM ist eine Open-Source-Software zum Bereitstellen (Serving) großer Sprachmodelle. Techniken wie PagedAttention und kontinuierliches Batching nutzen den GPU-Speicher effizient, sodass viele Anfragen parallel bedient werden können. vLLM stellt eine OpenAI-kompatible Schnittstelle bereit und ist deshalb gut in bestehende Anwendungen integrierbar.

Was ist Ollama?

Ollama ist ein einfach zu bedienendes Werkzeug, um Sprachmodelle lokal auszuführen – gut geeignet für Tests, Entwicklung und Einzelplatz-Szenarien. Für viele gleichzeitige Nutzer setzen wir in der Regel auf vLLM.

Welche Hardware brauche ich für lokale KI?

Das hängt von Modellgröße, Kontextlänge und der Zahl gleichzeitiger Nutzer ab. Kompakte Systeme wie der NVIDIA DGX Spark eignen sich für Einzelplatz, Entwicklung und kleinere Teams. Für viele parallele Nutzer setzen wir auf Server mit mehreren GPUs, etwa unser Referenzsystem AI Cube mit 2 × RTX PRO 6000 Blackwell. Die Dimensionierung leiten wir aus Ihren Anwendungsfällen ab – nicht aus einer Maximalausstattung.

Welche Voraussetzungen und Grenzen hat lokale KI?

Voraussetzungen: ein geeigneter Standort mit Strom, Kühlung und Netzwerkanbindung, klar beschriebene Anwendungsfälle und eine Zuständigkeit für Updates und Monitoring – bei Ihnen oder bei uns.

Grenzen: Lokal betriebene offene Modelle sind nicht in jeder Aufgabe gleichauf mit den größten Cloud-Modellen, und Hardware wird für eine bestimmte Last dimensioniert. Deshalb kombinieren wir bei Bedarf lokale Modelle mit ausgewählten Cloud-Modellen, gesteuert über das Cervus Gateway.

Was kostet managed lokale KI?

Zur Miete: Ein dedizierter GPU-Server, den wir einrichten und betreiben, kostet ab 649 € im Monat (Start, 24 GB GPU-Speicher), ab 1.690 € (Professional, 96 GB) oder ab 2.390 € (Business DE, 96 GB, Rechenzentrum in Deutschland), jeweils mit 12 Monaten Mindestlaufzeit und einmaliger Einrichtung ab 1.490 €.

Zum Kauf: Die Cervus KI-Workstation steht bei Ihnen vor Ort und kostet ab 23.290 € (2 × RTX 5090) bzw. ab 63.990 € (2 × RTX PRO 6000 Blackwell), das Management ab 590 € im Monat. Vorhandene Hardware – eine GPU-Workstation oder einen Server im Haus, im eigenen Rechenzentrum oder beim Hoster – betreuen wir ab 390 € im Monat.

In jedem Management sind Betrieb, Monitoring, Updates, Support und das Cervus Gateway enthalten. Alle Preise netto zzgl. USt.

Wie aufwendig ist die Integration in bestehende Systeme?

Das Cervus Gateway und vLLM stellen OpenAI-kompatible Schnittstellen bereit. Das Gateway unterstützt unter anderem Chat Completions (inklusive Streaming), die Responses-API, Embeddings und die Modellliste; Tool-Aufrufe werden durchgereicht. In Anwendungen, die eine eigene OpenAI-Base-URL erlauben – etwa n8n oder selbst entwickelte Software –, tragen Sie Base-URL, API-Schlüssel und Modellnamen ein.

Wie viel Aufwand darüber hinaus entsteht, hängt vom Werkzeug ab: Bild- und Audio-Endpunkte sowie die ältere Completions-Schnittstelle werden derzeit nicht unterstützt, und Prompts sollten mit dem gewählten Modell getestet werden.

Wo genau wird die Rechenleistung erbracht?

Das hängt von der Betriebsform ab: Bei lokaler KI laufen die Modelle auf Hardware in Ihrem Unternehmen oder auf einem dedizierten GPU-Server, den wir für Sie betreiben – je nach Paket in einem Rechenzentrum in der EU (Finnland) oder in Deutschland. Das Cervus Gateway betreiben wir in einem Rechenzentrum in Deutschland. Die gemanagte KI aus europäischer Cloud (Cervus KI) läuft in Rechenzentren in Europa. Welche Anbieter und Standorte im Einzelnen beteiligt sind, legen wir im Projekt offen und regeln es im Vertrag zur Auftragsverarbeitung.

Wie schnell ist lokale KI?

Die Geschwindigkeit hängt von Modell, Quantisierung, Kontext- und Ausgabelänge, Softwareversion und der Zahl gleichzeitiger Nutzer ab. Wichtig ist, welche Kennzahl betrachtet wird: Tokens pro Sekunde für einen einzelnen Nutzer, Tokens pro Sekunde je Nutzer unter Last oder der Gesamtdurchsatz aller Nutzer – und ob Spitzen- oder Durchschnittswerte gemeint sind. Für Ihr Szenario messen wir mit Ihren Anwendungsfällen und dokumentieren das Messprotokoll.

RAG, MCP & Modelle

Was bringt mir RAG (Retrieval-Augmented Generation)?

Bei RAG sucht das System zu jeder Frage passende Abschnitte aus Ihren Wissensquellen – etwa Handbüchern, Richtlinien oder Wikis – und gibt sie dem Sprachmodell als Kontext mit. Die Antworten stützen sich so auf Ihr Unternehmenswissen und können die verwendeten Quellen nennen.

Halluzinationen werden dadurch seltener, aber nicht ausgeschlossen: Die Qualität hängt von Datenbasis, Suche und Modell ab. Deshalb gehören Tests mit echten Fragen, Quellenangaben und eine fachliche Prüfung wichtiger Antworten dazu.

Was ist der Vorteil von MCP-Servern?

Das Model Context Protocol (MCP) ist ein offener Standard, über den KI-Anwendungen mit Werkzeugen und Datenquellen verbunden werden. Über einen MCP-Server kann die KI zum Beispiel Daten aus Ihrem ERP-System abfragen oder einen n8n-Workflow starten. Welche Aktionen erlaubt sind, legen Sie fest – schreibende Zugriffe sollten nur mit klaren Berechtigungen und bei Bedarf mit einer Freigabe durch Menschen erfolgen.

Wie unterscheidet sich Ihre KI von ChatGPT?

Öffentliche KI-Dienste verarbeiten Eingaben auf der Infrastruktur des Anbieters und nach dessen Bedingungen. Bei lokaler KI laufen die Modelle auf Hardware, die Sie kontrollieren. Bei Cloud-Modellen über das Cervus Gateway steuern Sie, wer welches Modell wofür nutzt und welche personenbezogenen Daten vorher maskiert werden. Zudem lassen sich die Modelle mit Ihren internen Systemen verbinden, etwa über RAG oder MCP.

Welche KI-Modelle stehen zur Verfügung?

Für lokale KI nutzen wir Open-Weights-Modelle, deren Lizenz den Einsatz im Unternehmen erlaubt; die Auswahl richtet sich nach Aufgabe, Sprache und Hardware. Über das Cervus Gateway lassen sich zusätzlich Cloud-Modelle anbinden, etwa von OpenAI, Anthropic, Google oder Mistral.

Cervus Gateway

Was macht das Cervus Gateway genau?

Es sitzt als Governance-Schicht zwischen Ihren Anwendungen und den KI-Modellen: Es steuert Zugriffe über API-Schlüssel, Einsatzzwecke und Modellfreigaben, maskiert personenbezogene Daten vor der Weitergabe, setzt Limits und Budgets durch und dokumentiert die Nutzung mit Metadaten und exportierbaren Nachweisen. Die Schnittstelle ist OpenAI-kompatibel; das Gateway ist auch einzeln, ohne lokale KI, einsetzbar.

Was ist ein KI-Gateway und was tut es?

Ein KI-Gateway ist eine zentrale Zwischenschicht, über die alle Anfragen an KI-Modelle laufen. Statt dass jede Anwendung eigene Schlüssel und Regeln verwaltet, legen Sie an einer Stelle fest, wer welche Modelle nutzen darf, welche Limits gelten und welche Daten vorher maskiert werden – und können die Nutzung nachvollziehen.

Welche Kontrollen bietet das Cervus Gateway?

API-Schlüssel lassen sich an versionierte Einsatzzwecke binden und Modelle pro Schlüssel bzw. Einsatzzweck freigeben; auf Wunsch ist ein Einsatzzweck Pflicht. Pro Schlüssel gelten harte Grenzen für Anfragen pro Minute, Tokens pro Anfrage und parallele Anfragen. Auf Organisationsebene legen Sie Token- oder Euro-Budgets mit harter Obergrenze fest. PII-Maskierung und Prompt-Injection-Prüfung sind zuschaltbare Module, die pro Organisation bzw. Schlüssel konfiguriert werden. Organisationen lassen sich in Abteilungen gliedern; Rollen unterscheiden Administration und Nutzung.

Was protokolliert und speichert das Cervus Gateway?

Zu jeder Anfrage speichert das Gateway Metadaten, unter anderem Zeitpunkt, API-Schlüssel, Modell und Route, Token-Verbrauch, Kosten, Latenz, Status, Einsatzzweck mit Version, Trace-IDs sowie die Ergebnisse von PII-Maskierung und Prompt-Injection-Prüfung (Anzahl und Art der Treffer, nicht die Inhalte).

Prompt- und Antwortinhalte werden standardmäßig nicht gespeichert. Sie können die Inhaltsspeicherung pro Organisation oder Schlüssel aktivieren – maskiert oder vollständig, mit einstellbarer Aufbewahrungsfrist (Standard: 30 Tage). Metadaten-Protokolle werden standardmäßig 365 Tage aufbewahrt; die Frist ist einstellbar.

Änderungen an Einstellungen landen in einem Audit-Log, und Nachweise lassen sich als CSV oder JSON exportieren – ohne Inhalte.

Was ist in welchem Tarif enthalten?

Das Gateway wird in Tarifen angeboten, die Kontingente, Budgets, Limits und freigegebene Routen festlegen – als reine Prüfschicht, als Zugang zu Modellen oder kombiniert. Steuerung und Protokollierung gehören immer dazu. Welche Schutzmodule Sie in welchem Umfang nutzen, etwa die gründliche Prompt-Injection-Prüfung mit zusätzlichem Prüfmodell, klären wir im Gespräch.

Was bedeutet Shadow AI?

Shadow AI (Schatten-KI) bezeichnet KI-Werkzeuge, die Mitarbeitende ohne Freigabe nutzen – etwa private Chatbot-Konten. Dadurch können Unternehmensdaten unkontrolliert bei externen Anbietern landen, ohne dass nachvollziehbar ist, wer was geteilt hat.

Welche LLM-Modelle kann ich mit dem Gateway nutzen?

Angebunden werden können unter anderem OpenAI, Anthropic, Google Gemini, Mistral, xAI, Cohere, Groq, DeepSeek und Azure OpenAI sowie selbst betriebene Modelle über vLLM oder Ollama. Eigene Anbieterschlüssel (Bring Your Own Key) sind möglich; pro Schlüssel lassen sich Routen mit automatischem Failover festlegen. Welche Modelle für einen Anwendungsfall zulässig sind, sollten Sie auch unter Datenschutz- und Vertragsgesichtspunkten prüfen.

Was sind PII (personenbezogene Daten)?

PII steht für Personally Identifiable Information: alle Informationen, die sich auf eine identifizierte oder identifizierbare Person beziehen, etwa Namen, E-Mail-Adressen, Telefonnummern, IP-Adressen oder Kontonummern. Der Schutz dieser Daten ist Kern der DSGVO.

Was ist Named Entity Recognition (NER)?

NER ist ein Verfahren, das in Texten Personen, Orte, Organisationen und ähnliche Angaben erkennt. Das Cervus Gateway kombiniert NER-Modelle (Microsoft Presidio mit spaCy-Modellen für Deutsch und Englisch) mit Regeln für feste Formate wie E-Mail-Adressen oder IBANs. Erkannte Angaben werden vor der Weitergabe an das Modell durch Platzhalter wie NAME_1 ersetzt. Die Erkennung arbeitet statistisch: Sie verringert das Risiko, erkennt aber nicht jede Angabe fehlerfrei.

Ist die PII-Erkennung auf deutsche Formate ausgelegt?

Ja, mit Einschränkungen. Es gibt deutsche Profile (allgemein, Finanzen, Gesundheit) mit deutschem NER-Modell und Regeln unter anderem für IBANs, Anrede plus Name, Steuer-ID-ähnliche Nummern und – im Gesundheitsprofil – Adressen. Eigene Erkennungsregeln lassen sich pro Organisation oder Schlüssel ergänzen. Wie jede automatische Erkennung ist sie nicht lückenlos; für sensible Anwendungsfälle testen wir sie mit Ihren typischen Daten.

Was ist eine Prompt Injection?

Eine Prompt Injection ist ein Angriff auf KI-Anwendungen, bei dem gezielte Eingaben die ursprünglichen Anweisungen des Systems aushebeln sollen – etwa um geschützte Daten preiszugeben, Sicherheitsfilter zu umgehen oder unerwünschte Aktionen auszulösen.

Das Cervus Gateway kann Eingaben als zuschaltbares Modul prüfen: mit Regeln, einem Klassifikationsmodell und einem Ähnlichkeitsabgleich, in der gründlichen Stufe zusätzlich mit einem Prüfmodell. Treffer werden je nach Einstellung gemeldet oder blockiert. Eine vollständige Abwehr garantiert keine Prüfung; sie ist eine Schutzschicht neben sauberen Berechtigungen.

Was ist ein DDoS-Angriff?

DDoS steht für Distributed Denial of Service. Dabei wird ein IT-System gezielt mit einer großen Zahl von Anfragen aus vielen Quellen gleichzeitig überflutet, um es zu überlasten, sodass legitime Nutzer den Dienst nicht mehr erreichen.

Arbeitet das Gateway „stateless“ – was wird gespeichert?

Das Gateway verarbeitet Prompts und Antworten im Arbeitsspeicher und speichert ihre Inhalte standardmäßig nicht. Es ist aber nicht in jeder Hinsicht zustandslos: Zu jeder Anfrage werden Metadaten protokolliert (etwa Modell, Tokens, Kosten, Status), und auf Wunsch lassen sich Inhalte maskiert oder vollständig speichern. Wird die sitzungsbezogene Pseudonymisierung genutzt, hält das Gateway die Zuordnung von Originalwert und Platzhalter bis zu eine Stunde in einem Zwischenspeicher vor. Einzelheiten stehen in der Antwort „Was protokolliert und speichert das Cervus Gateway?“.

Cervus KI – gemanagte KI aus europäischer Cloud

Was ist Cervus KI?

Cervus KI ist die gemanagte Variante: leistungsstarke Sprachmodelle, in Europa gehostet, als monatliches Abo. Sie buchen einen Tarif, erhalten eine OpenAI-kompatible Schnittstelle und legen los – ohne eigene Hardware und ohne Server-Betrieb. Ihre Eingaben werden nicht zum Training von Modellen verwendet.

Was ist der Unterschied zwischen Cervus KI und der KI-Infrastruktur?

Cervus KI ist das fertige Abo: Sie buchen einen Tarif und nutzen unsere gehosteten Modelle ohne eigene Einrichtung. Bei der lokalen KI-Infrastruktur bauen und betreiben wir eine auf Ihren Anwendungsfall zugeschnittene Umgebung, auf Wunsch dediziert oder direkt bei Ihnen im Haus. Kurz gesagt: Cervus KI ist der schnelle Einstieg, die KI-Infrastruktur die individuelle Lösung.

Welche Modelle sind in welchem Tarif enthalten?

Alle. Jeder Tarif enthält das komplette Modell-Portfolio, vom deutschsprachigen Allrounder qwen3.6-35b-a3b über gpt-oss-120b für anspruchsvolles englisches Reasoning bis zum Embedding-Modell für semantische Suche und RAG. Sie wählen pro Anfrage selbst, welches Modell am besten passt. Die Tarife unterscheiden sich in Tokenkontingent, Anfragen pro Minute und parallelen Sessions, nicht in der Modellauswahl.

Welches Modell ist qwen3.6-35b-a3b?

Unser Allrounder und für die meisten Anwendungsfälle die erste Wahl, besonders im deutschsprachigen Raum. Es ist stark in agentischen Workflows und logischem Reasoning, kann Werkzeuge (Tools) aufrufen und bietet ein Context-Window von bis zu 256.000 Token. Sprachen: Deutsch, Englisch, Französisch und über 70 weitere.

Welches Modell ist gemma-4-26b-a4b-it?

Ein effizientes Modell für agentische Aufgaben bei geringerem Ressourcenbedarf, ebenfalls mit Reasoning, Tool-Aufrufen und einem Context-Window bis 256.000 Token. Es deckt ein breites Sprachspektrum ab, darunter Deutsch, Englisch, Französisch, Chinesisch, Japanisch und Koreanisch.

Welches Modell ist gpt-oss-120b?

Das leistungsstärkste Modell im Portfolio für komplexe, englischsprachige Aufgaben und anspruchsvolles Reasoning. Es unterstützt Tool-Aufrufe und bietet ein Context-Window von bis zu 128.000 Token. Primär auf Englisch ausgelegt.

Welches Modell ist qwen3-embedding-8b?

Kein Chat-Modell, sondern ein Embedding-Modell: Es wandelt Texte in Zahlenvektoren um und bildet damit das Fundament für semantische Suche, RAG und Klassifizierung, also für KI auf Ihren eigenen Daten. Es deckt Deutsch, Englisch, Französisch und über 70 weitere Sprachen ab.

Wie groß ist das Context-Window?

Bis zu 256.000 Token, je nach Modell. Damit lassen sich lange Handbücher, Verträge oder Protokolle in einer Anfrage verarbeiten, ohne sie vorher aufwendig zu zerteilen. Das jeweilige Context-Window weisen wir pro Modell aus.

Kann ich Cervus KI kostenlos testen?

Ja. Zwei Wochen lang testen Sie Cervus KI unverbindlich und ohne Kosten. Im Test stehen Ihnen alle Modelle zur Verfügung, mit einem Kontingent von 5 Millionen Token über die gesamten zwei Wochen, bis zu 20 Anfragen pro Minute und zwei parallelen Sitzungen. Das Context-Window ist in der Testphase auf 14.000 Token begrenzt. So prüfen Sie an Ihren echten Aufgaben, ob Modelle und Geschwindigkeit passen, bevor Sie sich für einen Tarif entscheiden.

Wo werden meine Daten verarbeitet, und werden sie zum Training genutzt?

Die Verarbeitung findet in Rechenzentren in Europa statt. Ihre Eingaben werden nicht zum Training von Modellen verwendet und nicht an Dritte weitergegeben; protokolliert werden Nutzungsdaten wie Token-Verbrauch und Zeitpunkt, die für Abrechnung und Nachvollziehbarkeit nötig sind. Einzelheiten regelt der Vertrag zur Auftragsverarbeitung. Ob Ihr konkreter Einsatz datenschutzrechtlich zulässig ist, hängt zusätzlich von Ihrem Anwendungsfall ab.

Brauche ich eigene Hardware oder technisches Vorwissen?

Nein. Cervus KI läuft komplett bei uns, Sie benötigen weder GPUs noch einen eigenen Server. Die Schnittstelle ist OpenAI-kompatibel: Werkzeuge mit einstellbarer Base-URL, etwa n8n oder eigene Anwendungen, binden Cervus KI an, indem Sie Adresse, API-Schlüssel und Modellnamen eintragen.

Welche Tarife gibt es?

Vier Stufen: „Kostenlos testen“ für zwei Wochen mit allen Modellen, 5 Millionen Token und eingeschränktem Context-Window (bis 14.000 Token); „Pro“ für 60 Euro im Monat mit 40 Millionen Token pro Monat, vollem Context-Window bis 256.000 Token und E-Mail-Support; „Business“ für 225 Euro im Monat mit 150 Millionen Token pro Monat, höheren Limits sowie Prio-Support und Onboarding; und „Ihr Wunsch“ für dedizierte oder On-Prem-Lösungen nach Maß auf Anfrage. Alle Modelle sind in jedem Tarif enthalten; die Stufen unterscheiden sich in Kontingenten, Geschwindigkeit und Support. Das Reasoning-Flagship verbraucht dabei das 2,5-fache des Token-Kontingents.

Was ist ein Sprachmodell (LLM)?

Ein Large Language Model (LLM) ist eine KI, die auf großen Textmengen trainiert wurde und daraus gelernt hat, Sprache zu verstehen und fortzuschreiben. Es sagt Schritt für Schritt den jeweils wahrscheinlichsten nächsten Textbaustein voraus und kann so Fragen beantworten, Texte zusammenfassen, übersetzen oder Code schreiben.

Was sind Token?

Token sind die kleinen Bausteine, in die ein Sprachmodell Text zerlegt. Ein Token entspricht grob einer Silbe oder einem kurzen Wort, im Deutschen etwa vier bis fünf Zeichen. Modelle lesen und schreiben in Token, und auch die Größe des Context-Windows sowie das Kontingent eines Tarifs werden in Token gemessen.

Was ist ein Context-Window?

Das Context-Window ist der Arbeitsspeicher eines Sprachmodells: die Menge an Text, die es bei einer Anfrage gleichzeitig berücksichtigen kann, gemessen in Token. Je größer das Context-Window, desto mehr zusammenhängenden Inhalt verarbeitet das Modell auf einmal, etwa einen ganzen Vertrag statt einzelner Absätze.

Was ist ein Embedding?

Ein Embedding ist die Übersetzung von Text in eine Reihe von Zahlen (einen Vektor), die seine Bedeutung abbildet. Inhalte mit ähnlicher Bedeutung erhalten ähnliche Vektoren. Das macht semantische Suche möglich: Statt nach exakten Stichwörtern zu suchen, findet das System inhaltlich passende Stellen – etwa als Grundlage für RAG auf Ihren eigenen Dokumenten.

Was bedeutet Reasoning bei einem KI-Modell?

Reasoning beschreibt die Fähigkeit eines Modells, eine Aufgabe in Zwischenschritten zu durchdenken, statt sofort zu antworten. Bei mehrstufigen Fragen, Logik oder Rechenwegen führt das häufig zu verlässlicheren Ergebnissen, kostet aber mehr Rechenzeit und Token.

Was sind agentische Workflows und Tool-Aufrufe?

Von agentischen Workflows spricht man, wenn ein KI-Modell nicht nur antwortet, sondern eigenständig mehrere Schritte plant und ausführt, um ein Ziel zu erreichen. Dazu nutzt es Tools, also angebundene Werkzeuge wie eine Suche, einen Taschenrechner oder eine Schnittstelle zu Ihrem System. Das Modell entscheidet selbst, wann es welches Werkzeug aufruft – deshalb brauchen Agenten klare Berechtigungen.

Datensicherheit & Souveränität

Können Sie meine Firmendaten einsehen?

Das hängt von der Betriebsform ab: Bei lokaler KI auf Ihrer Hardware bleiben die Daten in Ihrer Umgebung; wir greifen nur zu, soweit Sie uns für Einrichtung oder Wartung Zugang einräumen. Beim Cervus Gateway werden Prompt- und Antwortinhalte standardmäßig nicht gespeichert. Aktivieren Sie die Inhaltsspeicherung, können Plattform-Administratoren gespeicherte Inhalte einsehen – jeder solche Zugriff wird protokolliert. Zugriffsrechte und Pflichten regelt der Vertrag zur Auftragsverarbeitung.

Ist die Lösung zu 100 % DSGVO-konform?

Eine pauschale Zusage wäre unseriös: DSGVO-Konformität ist keine Eigenschaft eines Produkts, sondern hängt davon ab, welche Daten Sie wofür verarbeiten, auf welcher Rechtsgrundlage und mit welchen Maßnahmen. Wir unterstützen Sie mit Verarbeitung in Deutschland bzw. Europa oder auf Ihrer eigenen Hardware, einem Vertrag zur Auftragsverarbeitung, der Maskierung personenbezogener Daten, Zugriffskontrollen und nachvollziehbarer Protokollierung. Die rechtliche Bewertung Ihres Einsatzes – etwa eine Datenschutz-Folgenabschätzung – bleibt Aufgabe Ihres Unternehmens und Ihrer Datenschutzberatung.

Was bedeutet „stateless“ für meine Datensicherheit?

„Stateless“ heißt, dass ein Dienst zwischen Anfragen keine Inhalte vorhält. Das verkleinert die Menge gespeicherter Daten, ist aber keine Sicherheitsgarantie: Auch Daten im Arbeitsspeicher müssen durch Zugriffskontrolle, verschlüsselte Übertragung und gehärtete Systeme geschützt werden, und Metadaten werden in der Regel trotzdem protokolliert. Deshalb beschreiben wir konkret, was verarbeitet, protokolliert und wie lange aufbewahrt wird – für das Cervus Gateway in der Antwort zur Protokollierung, für lokale KI in Ihrer Projektdokumentation.

Was ist die DSGVO?

Die Datenschutz-Grundverordnung (DSGVO) ist eine EU-Verordnung, die die Regeln zur Verarbeitung personenbezogener Daten durch Unternehmen und öffentliche Stellen vereinheitlicht. Ihr Ziel ist der Schutz der Grundrechte natürlicher Personen, insbesondere ihres Rechts auf Schutz personenbezogener Daten.

EU AI Act & KI-Governance

Was ist KI-Governance?

KI-Governance umfasst die Regeln, Zuständigkeiten und Kontrollen, mit denen ein Unternehmen festlegt, welche KI wofür eingesetzt werden darf – und wie das überprüft wird. Dazu gehören ein Verzeichnis der KI-Anwendungen, Richtlinien für Mitarbeitende, Risikobewertungen, technische Kontrollen wie Zugriffs- und Datenschutzregeln sowie Nachweise über die tatsächliche Nutzung.

Was ist der EU AI Act?

Der EU AI Act (Verordnung (EU) 2024/1689) ist die europäische KI-Verordnung. Er ordnet KI-Systeme nach ihrem Risiko ein und knüpft daran Pflichten für Anbieter und Betreiber.

Die Regeln gelten gestaffelt: Verbote bestimmter Praktiken und die Vorgaben zur KI-Kompetenz seit dem 2. Februar 2025, Regeln für KI-Modelle mit allgemeinem Verwendungszweck seit dem 2. August 2025, die meisten übrigen Vorschriften einschließlich der Transparenzpflichten nach Artikel 50 seit dem 2. August 2026. Die Pflichten für Hochrisiko-Systeme wurden durch den „Digital Omnibus“ (Verordnung (EU) 2026/1744) verschoben – laut Zeitplan der EU-Kommission auf den 2. Dezember 2027 (Anhang III) bzw. den 2. August 2028 (KI in Produkten nach Anhang I).

Stand: September 2026. Maßgeblich ist der jeweils aktuelle Verordnungstext.

Wie helfen offene Modelle bei der Einhaltung des EU AI Acts?

Offene Modelle ersetzen keine Compliance, können sie aber erleichtern: Anbieter von Open-Weights-Modellen veröffentlichen häufig Modellkarten, Lizenzen und Angaben zu Trainingsdaten. Diese Informationen helfen beim Aufbau der eigenen Dokumentation und Risikobewertung. Welche Pflichten konkret gelten, hängt von Ihrer Rolle (Anbieter oder Betreiber) und der Risikoklasse Ihres Anwendungsfalls ab – nicht davon, ob ein Modell offen oder geschlossen ist.

Was bedeutet „Logging nach EU AI Act“?

Für Hochrisiko-KI-Systeme verlangt Artikel 12, dass sie Ereignisse während ihres Betriebs automatisch protokollieren können. Betreiber solcher Systeme müssen die Protokolle, soweit sie ihrer Kontrolle unterliegen, nach Artikel 26 mindestens sechs Monate aufbewahren, sofern andere Vorschriften nichts anderes bestimmen.

Für KI-Anwendungen außerhalb der Hochrisiko-Kategorie gilt diese Pflicht nicht in gleicher Form; eine nachvollziehbare Protokollierung ist trotzdem eine gute Grundlage für Governance und Nachweise. Das Cervus Gateway liefert dafür Metadaten-Protokolle und Exporte – ob das für Ihr System genügt, prüfen wir im Einzelfall.

Muss ich KI-Inhalte auf meiner Website kennzeichnen?

Möglicherweise. Artikel 50 des AI Acts gilt seit dem 2. August 2026 und enthält Transparenzpflichten: Menschen müssen informiert werden, wenn sie direkt mit einem KI-System interagieren – etwa einem Chatbot –, sofern das nicht offensichtlich ist. KI-erzeugte oder manipulierte Bild-, Audio- und Videoinhalte (Deepfakes) sind offenzulegen, ebenso KI-generierte Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden. Wer welche Pflicht trägt, hängt von der Rolle als Anbieter oder Betreiber ab. Wir helfen bei Einordnung und Umsetzung; eine Rechtsberatung ersetzt das nicht.

Was ist ISO/IEC 42001?

ISO/IEC 42001 ist eine internationale Norm mit Anforderungen an ein KI-Managementsystem (AIMS): wie eine Organisation den Einsatz von KI mit Richtlinien, Rollen, Risikobewertung, Kontrollen und kontinuierlicher Verbesserung steuert. Sie ist ähnlich aufgebaut wie ISO/IEC 27001 und lässt sich mit einem bestehenden Informationssicherheits-Managementsystem verbinden.

Zertifiziert Cervus IT nach ISO/IEC 42001?

Nein. Wir beraten und unterstützen beim Aufbau eines KI-Managementsystems – von der Bestandsaufnahme über Richtlinien und Prozesse bis zur technischen Umsetzung – und bereiten die Unterlagen für ein Audit vor. Die Zertifizierung selbst führt eine unabhängige, akkreditierte Zertifizierungsstelle durch; ein bestimmtes Ergebnis können wir nicht zusagen.

Berücksichtigen Sie ethische Richtlinien und den EU AI Act?

Ja. Governance ist fester Bestandteil unserer Projekte: Wir ordnen Anwendungsfälle nach den Risikoklassen des EU AI Acts ein, berücksichtigen Datenschutz und mögliche Verzerrungen (Bias) und setzen passende Kontrollen technisch um. Die rechtliche Verantwortung für den Einsatz bleibt bei Ihrem Unternehmen; Rechtsfragen stimmen Sie bitte mit Ihrer Rechts- oder Datenschutzberatung ab.

KI-Projekte & Umsetzung

Warum brauche ich eine spezialisierte Projektleitung für KI?

KI-Projekte unterscheiden sich von klassischer Softwareentwicklung durch ihren iterativen Charakter und die Abhängigkeit von Datenqualität. Eine Projektleitung, die beide Seiten versteht, klärt früh, welche Ergebnisse realistisch sind, und macht den Nutzen messbar.

Was genau wird bei einer Machbarkeitsanalyse geprüft?

Die Machbarkeitsanalyse ist die technische Prüfung vor Projektstart: Wir klären, ob und wie sich Ihre Idee umsetzen lässt, welche Daten in welcher Qualität vorliegen müssen – etwa für RAG – und welche Betriebsform passt. So lassen sich Fehlinvestitionen vermeiden.

Wie berechnet sich der ROI eines KI-Projekts?

Wir stellen Einführungs- und Betriebskosten dem erwarteten Nutzen gegenüber, etwa eingesparter Arbeitszeit durch Automatisierung, und schätzen, ab wann sich die Investition amortisieren kann. Die Annahmen machen wir transparent, damit Sie sie mit echten Werten aus dem Pilotbetrieb überprüfen können.

Was umfasst die Roadmap und Meilensteinplanung?

Die Roadmap ist Ihr Fahrplan: Wir unterteilen das Projekt in klare Phasen – vom Infrastruktur-Setup über die Datenintegration bis zur Testphase. Festgelegte Meilensteine markieren wichtige Etappen und machen den Fortschritt transparent.

Was bedeutet agiles Management für KI-Workflows?

KI-Projekte erfordern Flexibilität, da sich Anforderungen durch neue Erkenntnisse aus den Daten ändern können. In kurzen Iterationen liefern wir prüfbare Zwischenergebnisse, validieren Annahmen früh und passen Modelle und Abläufe schrittweise an.

Wie funktioniert das Risikomanagement für Datenqualität und Performance?

Die Qualität einer KI-Anwendung hängt stark von den Daten ab. Wir planen Monitoring und Tests mit ein, um nachlassende Antwortqualität – etwa durch veränderte Daten („Data Drift“) – oder Performance-Probleme früh zu erkennen, und legen fest, wer bei Auffälligkeiten reagiert.

Unterstützen Sie auch bei der Einführung im Team?

Ja, im Rahmen der Einführung: Wir stimmen Richtlinien und Abläufe mit den Fachbereichen ab und dokumentieren die Nutzung so, dass Mitarbeitende wissen, welche KI-Werkzeuge sie wofür einsetzen dürfen. Schulungsprogramme bieten wir nicht als eigenes Angebot an.

Verwendete Technologien

Was ist eine API?

Eine API (Application Programming Interface, Programmierschnittstelle) ermöglicht es Anwendungen, miteinander zu kommunizieren. Sie legt fest, welche Anfragen ein System annimmt und in welcher Form es antwortet.

Was ist Python?

Python ist die führende Programmiersprache im Bereich KI und Datenverarbeitung. Die gut lesbare Syntax und die große Auswahl an Bibliotheken machen sie zum Standardwerkzeug für Machine Learning und KI-Anwendungen.

Was ist FastAPI?

FastAPI ist ein modernes Web-Framework für Python, mit dem sich schnelle, typisierte Schnittstellen (APIs) bauen lassen – etwa für die Kommunikation mit KI-Modellen.

Was ist PostgreSQL?

PostgreSQL ist eine ausgereifte Open-Source-Datenbank, die auch bei komplexen Datenstrukturen zuverlässig arbeitet und mit Erweiterungen wie pgvector auch Vektoren für semantische Suche speichern kann.

Was ist Redis?

Redis ist ein sehr schneller In-Memory-Datenspeicher. Er wird für Caching, Zähler (etwa Rate-Limits) und kurzlebige Daten eingesetzt, um Antwortzeiten niedrig zu halten.

Was ist Docker?

Docker verpackt Anwendungen in isolierte Container. So läuft Software in jeder Umgebung – vom Entwickler-Laptop bis zum Server – mit denselben Abhängigkeiten.

Was ist Kubernetes?

Kubernetes ist ein System zur Automatisierung und Verwaltung von Containern. Es verteilt Lasten, startet ausgefallene Container neu und erleichtert so einen hochverfügbaren Betrieb.

Was sind CI/CD-Pipelines?

CI/CD steht für Continuous Integration und Continuous Delivery: automatisierte Abläufe, die Code-Änderungen prüfen, testen und kontrolliert ausrollen. Das reduziert manuelle Fehler und ermöglicht kurze Update-Zyklen.

Ihre Frage war nicht dabei?

Kontaktieren Sie uns.