Hochrisiko-KI
Hochrisiko-KI ist ein KI-System, das nach Art. 6 KI-VO als hochriskant eingestuft ist, weil es als Sicherheitsbauteil eines regulierten Produkts dient (Anhang I) oder in einem der in Anhang III aufgeführten Bereiche eingesetzt wird, etwa bei Personalentscheidungen oder der Kreditwürdigkeitsprüfung.
Stand:
Auch: Hochrisiko-KI-System, High-Risk AI
Art. 3 KI-VO enthält keine eigene Begriffsbestimmung für „Hochrisiko-KI-System“. Die Einstufung ergibt sich aus Art. 6: Nach Absatz 1 ist ein System hochriskant, wenn es als Sicherheitsbauteil eines Produkts verwendet wird oder selbst ein Produkt ist, das unter die Harmonisierungsvorschriften in Anhang I fällt und einer Konformitätsbewertung durch Dritte unterliegt. Nach Absatz 2 gelten zusätzlich die Systeme aus Anhang III als hochriskant, zum Beispiel KI für die Auswahl von Bewerbern, für Beförderungen oder für die Bewertung der Kreditwürdigkeit.
Absatz 3 enthält eine Ausnahme: Ein Anhang-III-System ist nicht hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt, etwa weil es nur eine eng begrenzte Verfahrensaufgabe erledigt oder eine menschliche Bewertung lediglich vorbereitet. Diese Einschätzung muss dokumentiert werden.
Für den Mittelstand heißt das: Die meisten Anwendungen, von der E-Mail-Sortierung bis zum Angebotsentwurf, sind nicht hochriskant. Kritisch wird es vor allem im Recruiting. Die Pflichten für Hochrisiko-Systeme gelten nach dem KI-Omnibus später als ursprünglich geplant, die Daten stehen in unserer Fristentabelle.
Quelle: Verordnung (EU) 2024/1689, Art. 6 sowie Anhänge I und III, abgerufen am 27.10.2026