menschliche Aufsicht auf Englisch
Englisch
human oversight
die Gestaltung und Verwendung eines Hochrisiko-Systems in einer Weise, die es natürlichen Personen ermöglicht, seinen Betrieb wirksam zu überwachen und erforderlichenfalls einzugreifen.
Achtung, häufige Fehler
- Verlangt ist wirksame Aufsicht mit Eingriffsmöglichkeit, nicht bloße Anwesenheit.
- Die aufsichtführende Person muss eine automatisierte Empfehlung verwerfen können.
Beispiele
die menschliche Aufsicht sicherstellen
to ensure human oversight
Eingriffsmöglichkeit
ability to intervene
automatisierte Empfehlung
automated recommendation
Betrieb unterbrechen
to interrupt operation
Grenzen des Systems
limitations of the system
aufsichtführende Person
person assigned oversight
Ausführlich erklärt
Kurz gesagt
human oversight für die Pflicht, Hochrisiko-Systeme so zu gestalten und einzusetzen, dass Menschen sie wirksam beaufsichtigen können; ein bloßes Mitlesen genügt nicht. Verlangt ist die Fähigkeit einzugreifen. Im Zweifel entscheidet, ob die aufsichtführende Person das Ergebnis tatsächlich verwerfen kann.
Warum
Der Maßstab ist Wirksamkeit, nicht Anwesenheit. Verlangt wird, dass die aufsichtführende Person die Fähigkeiten und Grenzen des Systems versteht, seine Ausgaben richtig einordnet, eine automatisierte Empfehlung verwerfen und den Betrieb erforderlichenfalls unterbrechen kann. Die bloße Möglichkeit, ein Ergebnis abzunicken, genügt gerade nicht, weil die Neigung besteht, automatisierten Ausgaben unbesehen zu folgen. Die Anforderung gehört zu den Hochrisiko-Pflichten und greift daher erst später.
Worauf es ankommt
Übernimmt ein System eine Entscheidung ohne wirksame Kontrolle, genügt eine Freigabe durch Anklicken nicht. Steht human supervision, wird eine bloße Beobachtung nahegelegt. Für eine Prozessbeschreibung nachrangig; bei einer Prüfung fehlt die Eingriffsmöglichkeit.
Was die Maschine übersieht
Wörtlich übersetzt wird menschliche Aufsicht zu human supervision oder human control; die Verordnung sagt human oversight. Die erste Fassung legt bloßes Beobachten nahe, die zweite eine vollständige Steuerung, während es um wirksame Eingriffsmöglichkeit geht. Wo die Eingriffsmöglichkeit genannt ist, klärt es sich; in einem Prozess genügt dann ein Klick zur Freigabe.
Weitere typische Fehler
- Die Neigung, Ausgaben unbesehen zu folgen, ist ausdrücklich zu berücksichtigen.
- Die Anforderung gehört zu den Hochrisiko-Pflichten und greift erst später.
Zuletzt angesehen
Der Begriffsraum erklärt Sprache, nicht den Einzelfall. Er ersetzt keine Rechtsberatung. Bei rechtlich verbindlichen Dokumenten sollte die Übersetzung fachkundig geprüft werden.