menschliche Aufsicht
human oversight für die Pflicht, Hochrisiko-Systeme so zu gestalten und einzusetzen, dass Menschen sie wirksam beaufsichtigen können; ein bloßes Mitlesen genügt nicht. Verlangt ist die Fähigkeit einzugreifen. Im Zweifel entscheidet, ob die aufsichtführende Person das Ergebnis tatsächlich verwerfen kann.
Der Maßstab ist Wirksamkeit, nicht Anwesenheit. Verlangt wird, dass die aufsichtführende Person die Fähigkeiten und Grenzen des Systems versteht, seine Ausgaben richtig einordnet, eine automatisierte Empfehlung verwerfen und den Betrieb erforderlichenfalls unterbrechen kann. Die bloße Möglichkeit, ein Ergebnis abzunicken, genügt gerade nicht, weil die Neigung besteht, automatisierten Ausgaben unbesehen zu folgen. Die Anforderung gehört zu den Hochrisiko-Pflichten und greift daher erst später.
Verlangt ist wirksame Aufsicht mit Eingriffsmöglichkeit, nicht bloße Anwesenheit.
Die aufsichtführende Person muss eine automatisierte Empfehlung verwerfen können.
Die Neigung, Ausgaben unbesehen zu folgen, ist ausdrücklich zu berücksichtigen.
Die Anforderung gehört zu den Hochrisiko-Pflichten und greift erst später.
Übernimmt ein System eine Entscheidung ohne wirksame Kontrolle, genügt eine Freigabe durch Anklicken nicht. Steht human supervision, wird eine bloße Beobachtung nahegelegt. Für eine Prozessbeschreibung nachrangig; bei einer Prüfung fehlt die Eingriffsmöglichkeit.
Wörtlich übersetzt wird menschliche Aufsicht zu human supervision oder human control; die Verordnung sagt human oversight. Die erste Fassung legt bloßes Beobachten nahe, die zweite eine vollständige Steuerung, während es um wirksame Eingriffsmöglichkeit geht. Wo die Eingriffsmöglichkeit genannt ist, klärt es sich; in einem Prozess genügt dann ein Klick zur Freigabe.
Der Begriffsraum erklärt Sprache, nicht den Einzelfall. Er ersetzt keine Rechtsberatung. Bei rechtlich verbindlichen Dokumenten sollte die Übersetzung fachkundig geprüft werden.