menschliche Aufsicht auf Englisch

Substantiv Recht

Englisch

human oversight

die Gestaltung und Verwendung eines Hochrisiko-Systems in einer Weise, die es natürlichen Personen ermöglicht, seinen Betrieb wirksam zu überwachen und erforderlichenfalls einzugreifen.

Achtung, häufige Fehler

  • Verlangt ist wirksame Aufsicht mit Eingriffsmöglichkeit, nicht bloße Anwesenheit.
  • Die aufsichtführende Person muss eine automatisierte Empfehlung verwerfen können.

Beispiele

die menschliche Aufsicht sicherstellen

to ensure human oversight

Eingriffsmöglichkeit

ability to intervene

automatisierte Empfehlung

automated recommendation

Betrieb unterbrechen

to interrupt operation

Grenzen des Systems

limitations of the system

aufsichtführende Person

person assigned oversight

Ausführlich erklärt

Kurz gesagt

human oversight für die Pflicht, Hochrisiko-Systeme so zu gestalten und einzusetzen, dass Menschen sie wirksam beaufsichtigen können; ein bloßes Mitlesen genügt nicht. Verlangt ist die Fähigkeit einzugreifen. Im Zweifel entscheidet, ob die aufsichtführende Person das Ergebnis tatsächlich verwerfen kann.

Warum

Der Maßstab ist Wirksamkeit, nicht Anwesenheit. Verlangt wird, dass die aufsichtführende Person die Fähigkeiten und Grenzen des Systems versteht, seine Ausgaben richtig einordnet, eine automatisierte Empfehlung verwerfen und den Betrieb erforderlichenfalls unterbrechen kann. Die bloße Möglichkeit, ein Ergebnis abzunicken, genügt gerade nicht, weil die Neigung besteht, automatisierten Ausgaben unbesehen zu folgen. Die Anforderung gehört zu den Hochrisiko-Pflichten und greift daher erst später.

Worauf es ankommt

Übernimmt ein System eine Entscheidung ohne wirksame Kontrolle, genügt eine Freigabe durch Anklicken nicht. Steht human supervision, wird eine bloße Beobachtung nahegelegt. Für eine Prozessbeschreibung nachrangig; bei einer Prüfung fehlt die Eingriffsmöglichkeit.

Was die Maschine übersieht

Wörtlich übersetzt wird menschliche Aufsicht zu human supervision oder human control; die Verordnung sagt human oversight. Die erste Fassung legt bloßes Beobachten nahe, die zweite eine vollständige Steuerung, während es um wirksame Eingriffsmöglichkeit geht. Wo die Eingriffsmöglichkeit genannt ist, klärt es sich; in einem Prozess genügt dann ein Klick zur Freigabe.

Weitere typische Fehler

  • Die Neigung, Ausgaben unbesehen zu folgen, ist ausdrücklich zu berücksichtigen.
  • Die Anforderung gehört zu den Hochrisiko-Pflichten und greift erst später.

Der Begriffsraum erklärt Sprache, nicht den Einzelfall. Er ersetzt keine Rechtsberatung. Bei rechtlich verbindlichen Dokumenten sollte die Übersetzung fachkundig geprüft werden.