Hochrisiko-KI-System

high-risk AI system
Substantiv · Juristisch

high-risk AI system für Systeme, die in besonders sensiblen Bereichen eingesetzt werden oder Sicherheitsbauteil eines regulierten Produkts sind; die Pflichten dafür sind auf Ende 2027 und 2028 verschoben worden. Die Einordnung ist gleichwohl jetzt vorzunehmen. Im Zweifel entscheidet, ob ein im Anhang genanntes Einsatzfeld betroffen ist.

Wann welche Übersetzung
high-risk AI system – ein KI-System, das einem im Anhang aufgeführten sensiblen Einsatzfeld zuzuordnen ist oder als Sicherheitsbauteil in ein reguliertes Produkt eingebettet wird.
Mehr dazu
Warum

Die Hochrisiko-Pflichten bilden den Kern des Regelwerks und sind zugleich der Teil, dessen Anwendung zuletzt verschoben wurde: eigenständige Systeme aus dem Anhang erst Ende 2027, in Produkte eingebettete erst 2028. Die zusätzliche Zeit betrifft aber nur die Pflichten, nicht die Einordnung; wer heute ein System beschafft, das später als hochriskant gilt, sollte Anbieterverträge und Datenqualität bereits daran ausrichten. Die verschobenen Daten sind feste Kalenderdaten ohne Bedingung.

Typische Fehler

Verschoben wurden die Pflichten, nicht die Einordnung als Hochrisiko-System.

Eigenständige Systeme aus dem Anhang und produkteingebettete haben verschiedene Stichtage.

Die neuen Daten sind feste Kalenderdaten und an keine Bedingung geknüpft.

High-risk ist der Normbegriff, critical oder sensitive AI trifft ihn nicht.

Beispiele
als hochriskant einstufen to classify as high-risk
Einsatzfeld area of use
Sicherheitsbauteil safety component
Anhang annex
Konformitätsbewertung conformity assessment
technische Dokumentation technical documentation
Worauf es ankommt

Setzt ein Unternehmen KI in der Personalauswahl ein, ist die Einordnung schon heute zu klären. Steht critical AI system, wird der Normbegriff nicht gefunden. Für eine Systemübersicht nachrangig; bei der Beschaffung fehlt die Weichenstellung.

Was die Maschine übersieht

Hochrisiko-KI-System trifft eine Maschine mit high-risk AI system, was der Verordnung entspricht, oder mit critical AI system, das dort nicht vorkommt. Dass die Einordnung an einen Anhang gebunden ist und nicht frei bewertet wird, trägt keine Fassung. Wo das Einsatzfeld genannt ist, klärt es sich; in einer Systemübersicht entsteht eine eigene Risikoskala.

Ähnliche Begriffe

Der Begriffsraum erklärt Sprache, nicht den Einzelfall. Er ersetzt keine Rechtsberatung. Bei rechtlich verbindlichen Dokumenten sollte die Übersetzung fachkundig geprüft werden.