Aktualisiert am 20. August 2026: Dieser Beitrag wurde nach dem Inkrafttreten der Verordnung (EU) 2026/1744 (Digital Omnibus, 27. Juli 2026) vollständig überarbeitet. Alle Fristen und Pflichten entsprechen dem konsolidierten Rechtsstand.
Was ist ein Hochrisiko KI-System, und warum ist die Einstufung für KMU entscheidend?
Ein Hochrisiko KI-System ist nach der Verordnung (EU) 2024/1689 ein KI-System mit erheblichem Schadenspotenzial für Gesundheit, Sicherheit oder Grundrechte natürlicher Personen. Solche Systeme sind nicht verboten, dürfen aber nur unter Einhaltung strenger Anforderungen eingesetzt werden.
Die zentrale Datumsänderung 2026: Die Änderungsverordnung (EU) 2026/1744, in Kraft seit dem 27. Juli 2026, hat Kapitel III Abschnitte 1 bis 3 der Verordnung verschoben. Für Betreiber von Anhang-III-Systemen gelten die Pflichten jetzt ab dem 2. Dezember 2027, für Anhang-I-Systeme ab dem 2. August 2028. Wer noch mit dem 2. August 2026 plant, plant nach einem aufgehobenen Zeitplan.
Weniger Zeitdruck heißt nicht weniger Aufgabe. Viele Unternehmen setzen Hochrisiko-KI ein, ohne es zu wissen, insbesondere im Personalbereich und bei der Kreditvergabe. Die Klassifizierung selbst schuldet man sich heute, weil sie darüber entscheidet, welche Vorlaufzeit, welche Anbieterzusagen und welche internen Zuständigkeiten Sie aufbauen müssen. Und die Kosten einer falschen Einstufung bleiben erheblich: Wer die Betreiberpflichten aus Artikel 26 nicht erfüllt, fällt in die Bußgeldstufe des Artikels 99(4) mit bis zu 15.000.000 € oder 3 % des weltweiten Jahresumsatzes, für KMU nach Artikel 99(6) jeweils der niedrigere Wert.
Dieser Artikel erklärt das Klassifizierungsverfahren, alle acht Hochrisiko-Bereiche nach Anhang III und, am wichtigsten für die Praxis, was Betreiber konkret tun müssen.
Zwei Wege in den Hochrisiko-Status: Artikel 6 EU AI Act
Artikel 6 definiert zwei voneinander unabhängige Wege. Es genügt, wenn einer erfüllt ist.
Weg 1, Anhang I (Art. 6(1)): Sicherheitsbauteil in regulierten Produkten
Ein KI-System ist Hochrisiko nach Art. 6(1), wenn beide Bedingungen erfüllt sind:
- Das System ist als Sicherheitsbauteil eines Produkts vorgesehen, das unter eine der in Anhang I aufgelisteten EU-Harmonisierungsrechtsvorschriften fällt, oder das System ist selbst dieses Produkt.
- Das Produkt unterliegt einer Drittkonformitätsbewertung, etwa durch eine Benannte Stelle.
Neu seit dem 27. Juli 2026: Der Begriff „Sicherheitsbauteil" ist enger gefasst. Nach Artikel 3 Nr. 14 erfüllt ein Bauteil nur dann eine Sicherheitsfunktion, wenn seine Zweckbestimmung darin besteht, Risiken für Gesundheit, Sicherheit oder Eigentum abzuwenden oder zu mindern. Der bloße Umstand, dass ein KI-System in ein harmonisiertes Produkt eingebaut ist, macht es ausdrücklich noch nicht zum Sicherheitsbauteil. Für Hersteller, die KI in Komfort-, Diagnose- oder Optimierungsfunktionen einsetzen, kann das den Ausschlag geben.
Ebenfalls neu: Anhang I wurde umstrukturiert. Abschnitt A Nummer 1 ist gestrichen, und die Maschinenverordnung (EU) 2023/1230 steht jetzt in Abschnitt B unter Nummer 21. Die inhaltlichen Anforderungen des Kapitels III Abschnitt 2 sollen über delegierte Rechtsakte in die Maschinenverordnung selbst überführt werden, anwendbar ebenfalls zum 2. August 2028. Wer ein Produkt unter der Maschinenverordnung entwickelt, prüft künftig also im Maschinenrecht und nicht mehr allein im AI Act.
KMU-relevante Beispiele:
- KI-gestützte Gefahrenerkennung in Industriemaschinen (Maschinenverordnung (EU) 2023/1230)
- KI-Diagnoseunterstützung in Medizingeräten (Verordnung (EU) 2017/745, MDR)
- KI-Sicherheitssteuerung in Aufzügen
Wichtig: Eine CE-Kennzeichnung allein genügt nicht als Kriterium. Entscheidend ist die Drittkonformitätsbewertung. Produkte mit reiner Herstellerselbsterklärung fallen trotz CE-Kennzeichen nicht unter Art. 6(1).
Geltungsdatum Anhang I: 2. August 2028.
Weg 2, Anhang III (Art. 6(2)): KI in acht sensiblen Bereichen
Ein KI-System ist Hochrisiko nach Art. 6(2), wenn es in einen der acht abschließend aufgezählten Bereiche des Anhangs III fällt. Für die große Mehrheit der deutschen KMU ist das der relevantere Weg, weil er keine Produktzertifizierung voraussetzt, sondern an sensible Anwendungsfelder anknüpft.
Geltungsdatum Anhang III: 2. Dezember 2027.
Zur Auslegungshilfe: Die Kommission hat ihre Leitlinien zur Hochrisiko-Einstufung nach Artikel 6(5) im Mai 2026 als Entwurf veröffentlicht. Eine finale Fassung liegt bislang nicht vor. Klassifizieren Sie deshalb anhand des Verordnungstextes und dokumentieren Sie Ihre Begründung so, dass sie einer späteren Präzisierung standhält.
Die acht Hochrisiko-Bereiche des Anhangs III mit KMU-Fokus
Anhang III listet acht Bereiche abschließend auf. Nur KI-Systeme in diesen Bereichen können nach Art. 6(2) Hochrisiko sein.
| Nr. | Bereich | Typisches KMU-Szenario | KMU-Relevanz |
|---|---|---|---|
| 1 | Biometrie (Fernidentifizierung, biometrische Kategorisierung, Emotionserkennung) | Gesichtserkennung am Werkstor | Mittel |
| 2 | Kritische Infrastruktur (Sicherheitskomponenten in Strom-, Gas-, Wasserversorgung, Straßenverkehr) | KI-Drucküberwachung im Gasnetz | Niedrig, meist öffentliche Träger |
| 3 | Bildung und Berufsausbildung (Zulassung, Bewertung von Lernergebnissen, Prüfungsüberwachung) | KI zur automatischen Bewertung von Azubi-Prüfungen | Mittel |
| 4 | Beschäftigung und Personalmanagement (Einstellung, Auswahl, Beförderung, Kündigung, Leistungsbewertung) | HR-Software mit Bewerbungsscreening und Scoring | Hoch, häufigster KMU-Fall |
| 5 | Zugang zu wesentlichen Diensten (Sozialleistungen, Kreditwürdigkeit nach 5b, Lebens- und Krankenversicherung nach 5c, Notruftriage) | KI-Bonitätsscoring eines Leasinggebers | Hoch für Finanzdienstleister |
| 6 | Strafverfolgung | für private KMU kaum direkt relevant | Niedrig |
| 7 | Migration, Asyl und Grenzkontrolle | für private KMU nicht relevant | Keine |
| 8 | Rechtspflege und demokratische Prozesse | Anwaltssoftware mit KI-Rechtsrecherche | Sehr gering |
Der KMU-Brennpunkt: Beschäftigung und Personalmanagement (Anhang III Nr. 4)
Jedes KI-System, das an Einstellung, Beförderung, Leistungsbewertung oder Kündigung mitwirkt, ist ein Kandidat für Hochrisiko-KI. Das gilt auch für eingekaufte HR-Software: Als Betreiber tragen Sie die Verantwortung für den Einsatz.
Systeme, die regelmäßig unter Nr. 4 fallen:
- Bewerbungsscreening mit Ranking oder Punktzahlen
- KI-gestützte Interviewanalyse, soweit sie nicht ohnehin schon nach Art. 5(1)(f) verboten ist
- Leistungsbewertungs-KI, die Arbeitsergebnisse automatisch benotet
- KI-Gehaltsempfehlungen auf Basis von Marktdaten und Mitarbeiterprofilen
Wenn Sie HR-Software mit KI-Funktionen einsetzen: Fragen Sie Ihren Anbieter schriftlich, ob das System als Hochrisiko-KI nach Anhang III Nr. 4 eingestuft ist, und lassen Sie sich die Konformitätsdokumentation zusagen. Die Antwort brauchen Sie lange vor Dezember 2027, weil sie über Vertragslaufzeiten und Wechseloptionen mitentscheidet.
Artikel 6(3): die vier Derogationen
Nicht jedes System in einem Anhang-III-Bereich ist gleich gefährlich. Artikel 6(3) erlaubt es, ein Anhang-III-System aus dem Hochrisiko-Status herauszunehmen, wenn es kein erhebliches Risiko der Beeinträchtigung birgt und mindestens eine der folgenden Bedingungen erfüllt:
- (a) Enge Verfahrensaufgabe: Das System führt nur eine klar definierte, eng begrenzte Teilaufgabe durch, etwa reine Datenextraktion aus Dokumenten ohne inhaltliche Bewertung.
- (b) Verbesserung einer abgeschlossenen menschlichen Tätigkeit: Das System verbessert ausschließlich das Ergebnis einer Handlung, die ein Mensch bereits vollständig abgeschlossen hat, etwa die Sprachglättung eines fertig verfassten Protokolls.
- (c) Mustererkennung ohne Entscheidungsersatz: Das System erkennt Entscheidungsmuster oder Abweichungen davon, soll aber die vorangegangene menschliche Bewertung weder ersetzen noch beeinflussen.
- (d) Vorbereitende Tätigkeit: Das System bereitet eine Bewertung vor, die anschließend einer echten, qualifizierten menschlichen Prüfung unterzogen wird.
Die Derogation ist kein Automatismus. Sie muss geprüft, schriftlich begründet und dokumentiert werden. Wer einfach annimmt, eine Derogation greife, hat bei einer Nachfrage nichts in der Hand.
Der Profiling-Vorbehalt: die häufigste Compliance-Falle
Kernsatz: Ein Anhang-III-System, das Profiling natürlicher Personen durchführt, ist immer Hochrisiko. Keine der vier Derogationen greift, auch wenn ein Mensch die abschließende Entscheidung trifft (Art. 6(3) Verordnung (EU) 2024/1689).
Was ist Profiling? Automatisierte Verarbeitung personenbezogener Daten zur Bewertung persönlicher Aspekte einer natürlichen Person, insbesondere zur Analyse oder Prognose von Arbeitsleistung, wirtschaftlicher Lage, Gesundheit, Verhalten oder Zuverlässigkeit.
Das Paradebeispiel: Bewerbungsscreening
Szenario: Eine HR-Leiterin in einem Logistikbetrieb mit 95 Beschäftigten nutzt eine Software, die eingehende Bewerbungen analysiert und jedem Bewerbenden eine Punktzahl von 0 bis 100 vergibt. Sie entscheidet anschließend selbst, wen sie einlädt.
Klassifizierungsergebnis:
- Anhang III Nr. 4 betroffen? Ja.
- Derogation (a) enge Verfahrensaufgabe? Nein, das System bewertet inhaltlich. (b) Verbesserung einer abgeschlossenen Tätigkeit? Nein, es geht der Entscheidung voraus. (c) reine Mustererkennung? Nein, es erzeugt eine individuelle Bewertung. (d) vorbereitende Tätigkeit mit echter menschlicher Prüfung? Zweifelhaft.
- Profiling-Vorbehalt: Das System bewertet Personen individuell anhand persönlicher Merkmale. Das ist Profiling, also keine Derogation möglich.
- Ergebnis: Hochrisiko nach Art. 6(2) in Verbindung mit Anhang III Nr. 4. Die Betreiberpflichten gelten ab dem 2. Dezember 2027.
Der häufigste Fehlschluss lautet: „Die HR-Leiterin entscheidet selbst, also ist das System kein Hochrisiko." Artikel 6(3) sagt das Gegenteil, sobald Profiling vorliegt.
Was müssen Betreiber bei Hochrisiko-KI nach Anhang III tun?
Betreiber sind nach Art. 3(4) die natürlichen oder juristischen Personen, die ein KI-System unter ihrer Verantwortung einsetzen, außerhalb rein persönlicher, nicht beruflicher Tätigkeit. In der Praxis: die Unternehmen, die KI-Software kaufen und nutzen, nicht die Softwarehersteller.
Die Pflichten stehen in Artikel 26 und gelten für Anhang-III-Systeme ab dem 2. Dezember 2027. Der Wortlaut des Artikels 26 wurde durch den Digital Omnibus nicht geändert, nur das Anwendungsdatum.
Pflicht 1: Nutzung gemäß Anbieteranleitung
Betreiber müssen das System gemäß den Anweisungen des Anbieters einsetzen: vorgesehene Zweckbestimmung, Einschränkungen, Anforderungen an die Eingabedaten, technische Spezifikationen.
Praktische Konsequenz: Fordern Sie die vollständige Nutzungsdokumentation an. Wenn ein Anbieter keine Anleitung liefern kann oder nicht sagen will, ob sein System Hochrisiko ist, ist das ein Warnsignal.
Pflicht 2: Menschliche Aufsicht sicherstellen (Art. 26(2), Art. 14)
Die Aufsicht ist natürlichen Personen zu übertragen, die über die erforderliche Kompetenz, Schulung und Befugnis verfügen und die nötige Unterstützung erhalten. Diese Person muss:
- die Fähigkeiten und Grenzen des Systems verstehen
- Anomalien und Fehlfunktionen erkennen können, einschließlich der Neigung, Systemausgaben ungeprüft zu übernehmen
- die Ausgaben richtig interpretieren
- das System übergehen oder stoppen können
Eine bloße Abzeichnung genügt nicht. Wer KI-Empfehlungen automatisch übernimmt, erfüllt die Anforderung nicht.
Wichtig für die Einordnung: Artikel 26 steht in der Bußgeldstufe des Artikels 99(4), also bis zu 15 Mio. € oder 3 %, für KMU der niedrigere Wert. Das ist die Trainingspflicht mit Bußgeldbewehrung. Sie ist nicht identisch mit Artikel 4, der für alle Betreiber gilt, aber in keiner Bußgeldstufe des Artikels 99 steht.
Pflicht 3: Protokolle mindestens sechs Monate aufbewahren
Automatisch erzeugte Protokolle müssen mindestens sechs Monate aufbewahrt werden, länger, wenn andere Rechtsvorschriften das verlangen.
Pflicht 4: Schwerwiegende Vorfälle melden
Führt ein Hochrisiko-System zu einem schwerwiegenden Vorfall, müssen Betreiber den Anbieter und gegebenenfalls die zuständige Behörde informieren und den Betrieb aussetzen.
Pflicht 5: Beschäftigte vorab informieren (Art. 26(7))
Vor Inbetriebnahme oder Verwendung eines Hochrisiko-KI-Systems am Arbeitsplatz müssen Arbeitgeber die Arbeitnehmervertretung und die betroffenen Beschäftigten informieren. Das ist eine Vorab-, keine Nachinformationspflicht.
Betriebsrat einbeziehen: Bei KI-Systemen, die Verhalten oder Leistung von Beschäftigten überwachen oder auswerten können, kommt ein Mitbestimmungsrecht nach § 87 Abs. 1 Nr. 6 BetrVG in Betracht, bei der Einführung neuer Technologien eine Unterrichtungspflicht nach § 90 BetrVG. Artikel 2 Abs. 11 der Verordnung stellt ausdrücklich klar, dass nationales Arbeitsrecht neben dem AI Act unberührt bleibt. Diese Rechte greifen unabhängig vom Anwendungsdatum des Kapitels III, also schon heute.
Und die Grundrechte-Folgenabschätzung nach Artikel 27?
Artikel 27 gilt nicht für jeden Betreiber. Verpflichtet sind Einrichtungen des öffentlichen Rechts, private Stellen, die öffentliche Dienste erbringen, sowie Betreiber von Systemen nach Anhang III Nr. 5(b) und 5(c). Ein typisches privatwirtschaftliches KMU schuldet keine Folgenabschätzung. Wer sie schuldet, darf seit dem Digital Omnibus nach Artikel 27(4) ausdrücklich auf einschlägige Teile einer vorhandenen Datenschutz-Folgenabschätzung nach Artikel 35 DSGVO verweisen. Die im Gesetz vorgesehene Fragebogenvorlage des KI-Büros ist bislang nicht veröffentlicht. Auch Artikel 27 gilt erst ab dem 2. Dezember 2027; das deutsche KI-MIG knüpft an Verstöße dagegen in § 15 eine Geldbuße von bis zu 50.000 €.
Die detaillierte Aufschlüsselung aller Betreiberpflichten nach Artikel 26 finden Sie im dazugehörigen Praxis-Leitfaden.
KMU-Praxisbeispiele: Ist Ihr KI-System Hochrisiko?
Beispiel 1: HR-Software mit Bewerbungsscreening und Ranking
Klassifizierung: Hochrisiko (Anhang III Nr. 4). Der Profiling-Vorbehalt greift, keine Derogation. Betreiberpflichten ab 2. Dezember 2027: Konformitätsdokumentation des Anbieters vorliegen haben, menschliche Aufsicht benennen und qualifizieren, Beschäftigte und Arbeitnehmervertretung informieren, Protokolle aufbewahren. Sofortmaßnahme: Schriftlich beim Anbieter anfragen, ob und ab wann das System als Hochrisiko-System konform sein wird, und die Zusage vertraglich verankern.
Beispiel 2: KI-Bonitätsscoring für Kundenkredite
Klassifizierung: Hochrisiko (Anhang III Nr. 5b). Die Kreditwürdigkeitsbewertung natürlicher Personen ist ausdrücklich genannt. Betreiberpflichten ab 2. Dezember 2027: Anbieteranleitung einhalten, menschliche Aufsicht sicherstellen, Protokolle sechs Monate aufbewahren. Achtung: Hier greift zusätzlich Artikel 27, weil Nr. 5(b) ausdrücklich erfasst ist. Ausnahme beachten: Systeme, die ausschließlich der Aufdeckung von Finanzbetrug dienen, sind in Nr. 5(b) ausgenommen.
Beispiel 3: KI-Gefahrenerkennung in Industriemaschinen
Klassifizierung: Hochrisiko (Anhang I, Art. 6(1)), wenn die Maschine eine Drittkonformitätsbewertung durchläuft und die KI-Funktion nach der engeren Definition des Artikels 3 Nr. 14 tatsächlich eine Sicherheitsfunktion als Zweckbestimmung hat. Geltungsdatum: 2. August 2028. Sofortmaßnahme: Prüfen, ob die Funktion nach der neuen Definition überhaupt noch Sicherheitsbauteil ist, und den Weg über die Maschinenverordnung mitverfolgen, in die die Anforderungen überführt werden sollen.
Beispiel 4: Einfache Stichwortsuche in Bewerbungsunterlagen
Klassifizierung: Möglicherweise kein Hochrisiko, Derogation (a) oder (d) prüfbar. Entscheidend ist, ob das System Profiling durchführt. Werden keine Punktzahlen oder Rankings erzeugt, sondern nur Dokumente nach Stichwörtern gefiltert, liegt kein Profiling vor und eine Derogation kommt in Betracht. Voraussetzung: eine schriftliche Begründung der Klassifizierungsentscheidung.
Hochrisiko-KI und KI-Kompetenz: warum beides zusammengehört
Die korrekte Klassifizierung ist eine Voraussetzung, keine Lösung. Was folgt, ist ein Pflichtenkatalog, den Menschen umsetzen müssen:
- Menschliche Aufsicht nach Art. 14 und Art. 26(2) verlangt, dass die aufsichtsführende Person Systemgrenzen, mögliche Verzerrungen und Anomalien erkennt. Ohne Qualifizierung geht das nicht, und diese Pflicht ist bußgeldbewehrt.
- Die Vorabinformation nach Art. 26(7) muss inhaltlich tragfähig sein. Beschäftigte müssen verstehen, was das System tut und was nicht.
- Artikel 4 gilt unabhängig vom Hochrisiko-Status seit dem 2. Februar 2025, seit dem 27. Juli 2026 in neuer Fassung: Anbieter und Betreiber ergreifen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals zu unterstützen. Ein bestimmtes Kompetenzniveau schuldet niemand, und ein Zertifikat verlangt die Verordnung nicht. Beaufsichtigt wird die Norm seit dem 2. August 2026, in Deutschland durch die Bundesnetzagentur.
Die KI Risikoklassifizierung und Risikopyramide im Überblick sowie die vollständige Analyse der Betreiberpflichten nach Artikel 26 finden Sie in den verlinkten Beiträgen. Alle Stichtage stehen im Artikel zu den EU AI Act Fristen.
Jetzt handeln, auch wenn der Stichtag später liegt
Der 2. Dezember 2027 klingt weit weg. Er ist es nicht, wenn zwischen heute und dann eine Softwareauswahl, eine Vertragsverlängerung oder ein Rollout im Personalbereich liegt. Wer jetzt weiß, welche seiner Systeme unter Anhang III fallen, verhandelt anders und vermeidet, in zwei Jahren an einen Anbieter gebunden zu sein, der die Konformität nicht liefert.
Forefront AI unterstützt deutsche KMU mit einem Online-Kurs, der die relevanten Inhalte abdeckt: Risikoklassifizierung nach Art. 6, Profiling-Vorbehalt, Betreiberpflichten nach Art. 26. Der Kurs schließt mit einem verifizierbaren Zertifikat ab, das Sie Ihrer internen Dokumentation nach Artikel 4 beilegen können. Die Verordnung verlangt kein Zertifikat; sie verlangt Maßnahmen, die Sie nachvollziehbar belegen können.
Informieren Sie sich auf der Leistungsseite über den Kursaufbau oder nehmen Sie direkt Kontakt auf, um den Rollout für Ihr Team zu planen.
