Zum Inhalt springen
Cervus IT Logo – ein Hirsch mit digitalem Geweih

EU AI Act

Hochrisiko-KI nach dem AI Act: Welche Anforderungen gelten – und was davon für KMU machbar ist

„Hochrisiko“ klingt nach Kernkraft, meint aber oft Alltägliches: Software für die Bewerberauswahl oder die Kreditprüfung. Dieser Beitrag zeigt, welche sieben Anforderungen dann gelten, wann ein System der Einstufung entgeht und welche Erleichterungen kleine Unternehmen haben. Stand: 28. September 2026.

Von Christoph Weiß · Veröffentlicht · 4 Min. Lesezeit

Erst die Frage: Ist es überhaupt Hochrisiko?

Zwei Wege führen in die Kategorie. Entweder ist die KI ein Sicherheitsbauteil eines Produkts, das nach EU-Recht ohnehin geprüft wird (Anhang I, etwa Maschinen oder Medizinprodukte). Oder der Anwendungsfall steht in Anhang III – dazu gehören unter anderem Personalauswahl und Beförderungsentscheidungen, Kreditwürdigkeitsprüfung, Zugang zu Bildung sowie bestimmte Anwendungen in kritischer Infrastruktur.

Artikel 6 Absatz 3 enthält aber eine Ausnahme, die in der Praxis oft greift: Ein System aus Anhang III gilt nicht als hochriskant, wenn von ihm kein erhebliches Beeinträchtigungsrisiko ausgeht und es nur

  • eine eng gefasste Verfahrensaufgabe erfüllt,
  • das Ergebnis einer bereits abgeschlossenen menschlichen Tätigkeit verbessert,
  • Entscheidungsmuster erkennt, ohne die menschliche Bewertung zu ersetzen, oder
  • eine vorbereitende Aufgabe übernimmt.

Eine Rückausnahme gibt es: Führt das System ein Profiling natürlicher Personen durch, bleibt es immer hochriskant. Und die Ausnahme ist kein Freifahrtschein – wer sie in Anspruch nimmt, muss die Bewertung vor dem Inverkehrbringen dokumentieren und das System nach Artikel 49 Absatz 2 registrieren. Der Digital Omnibus hat den Umfang dieser Registrierung immerhin verkleinert.

Die sieben Anforderungen im Überblick

Kapitel III Abschnitt 2 der KI-Verordnung, verkürzt
ArtikelWorum es gehtWas das praktisch heißt
Art. 9RisikomanagementsystemFortlaufender Prozess über den ganzen Lebenszyklus, inklusive vorhersehbarer Fehlanwendung und Auswertung der Erfahrungen aus dem Betrieb
Art. 10Daten und Daten-GovernanceQualitätskriterien für Trainings-, Validierungs- und Testdaten: Herkunft, Aufbereitung, Repräsentativität, Prüfung auf Verzerrungen
Art. 11Technische DokumentationVor dem Inverkehrbringen erstellen, laufend aktuell halten, mindestens die Elemente aus Anhang IV
Art. 12ProtokollierungDas System muss Ereignisse über den Lebenszyklus automatisch aufzeichnen können
Art. 13Transparenz für BetreiberBetriebsanleitung mit Mindestinhalten: Genauigkeitsmetriken, Grenzen, vorhersehbare Fehlanwendungen, Hinweise zur Aufsicht
Art. 14Menschliche AufsichtSo gebaut, dass Menschen es wirksam beaufsichtigen können; bei bestimmten biometrischen Systemen Vier-Augen-Prinzip
Art. 15Genauigkeit, Robustheit, CybersicherheitBeständige Leistung, Absicherung gegen manipulierte Trainingsdaten und gezielte Täuschungseingaben

Diese Anforderungen richten sich an den Anbieter. Betreiber haben eigene, deutlich kürzere Pflichten – nachzulesen im Beitrag Pflichten für Unternehmen, die KI nur nutzen.

Was der Digital Omnibus geändert hat

Von den sieben Anforderungen hat die Änderungsverordnung (EU) 2026/1744 nur zwei angefasst:

  • Artikel 10: Die Qualitätskriterien gelten jetzt ausdrücklich nur, „wenn solche Datensätze verwendet werden“. Absatz 5, der die Verarbeitung besonderer Kategorien personenbezogener Daten zur Verzerrungserkennung erlaubte, wurde gestrichen – die Regelung steht jetzt im neuen Artikel 4a mit eigenem Bedingungskatalog.
  • Artikel 11: KMU einschließlich Start-ups und kleine Midcap-Unternehmen dürfen die technische Dokumentation vereinfacht bereitstellen. Details im Beitrag Technische Dokumentation für KMU.

Die Artikel 9, 12, 13, 14 und 15 sind unverändert geblieben. Neu ist dagegen eine Brücke zur Cybersicherheit: Nach dem neuen Artikel 42 Absatz 3 wird die Anforderung aus Artikel 15 zur Cybersicherheit als erfüllt vermutet, wenn die entsprechenden Vorgaben des Cyber Resilience Act eingehalten werden. Wer dort ohnehin liefern muss, arbeitet also nicht doppelt.

Die Fristen – und ein verbreiteter Irrtum

Die Pflichten für Hochrisiko-Systeme gelten ab dem 2. Dezember 2027 für Anwendungen nach Anhang III und ab dem 2. August 2028 für KI in Produkten nach Anhang I. Beide Termine wurden durch den Digital Omnibus nach hinten verschoben. Zahlreiche Schulungsunterlagen und Blogbeiträge nennen noch den 2. August 2026 oder 2027 – diese Angaben sind überholt.

Was davon für kleine Unternehmen machbar ist

Der Gesetzgeber hat an mehreren Stellen nachgebessert, allerdings nicht überall dort, wo man es vermutet:

  • Vereinfachte technische Dokumentation für KMU, Start-ups und kleine Midcaps (Artikel 11).
  • Vereinfachtes Qualitätsmanagementsystem: Die Erleichterung nach Artikel 63 gilt nicht mehr nur für Kleinstunternehmen, sondern für alle KMU ohne Partner- oder verbundene Unternehmen.
  • Geringere Gebühren für die Konformitätsbewertung, größenproportional gesenkt (Artikel 62 Absatz 2).
  • Vorrangiger Zugang zu KI-Reallaboren – in Deutschland betreibt die Bundesnetzagentur mindestens eines; die Mitgliedstaaten müssen bis zum 2. August 2027 einsatzbereit sein.
  • Geldbußen: Bei KMU und – neu – kleinen Midcaps gilt jeweils der niedrigere der beiden möglichen Beträge.

Ein Detail, das oft falsch berichtet wird: Artikel 62 mit den Fördermaßnahmen wurde nicht auf kleine Midcaps erweitert. Er nennt weiterhin nur KMU und Start-ups. Die Erweiterung betrifft andere Artikel, unter anderem die Dokumentation, das Qualitätsmanagement und die Bußgelder.

Wie Sie vorgehen

  1. Einstufung dokumentieren: Für jedes KI-System festhalten, ob Anhang I oder III einschlägig ist – und wenn nein, warum nicht. Diese Begründung ist bei der Ausnahme nach Artikel 6 Absatz 3 ohnehin Pflicht.
  2. Rolle klären: Anbieter, Betreiber, Händler oder Einführer? Danach richtet sich alles Weitere.
  3. Lücken benennen: Von den sieben Anforderungen sind Risikomanagement, Daten-Governance und Dokumentation erfahrungsgemäß am aufwendigsten.
  4. Technik mitdenken: Protokollierung und Zugriffskontrolle lassen sich zentral lösen, etwa über ein KI-Gateway, statt in jeder Anwendung einzeln.
  5. Rahmen schaffen: Wer mehrere Systeme betreibt, fährt mit einem KI-Managementsystem nach ISO/IEC 42001 besser als mit Einzelfalllösungen.

Quellen

Weitere Beiträge