Human on the Loop: Wer überwacht die AI?

Autonome AI-Systeme übernehmen zunehmend operative Aufgaben – doch mit wachsender Eigenständigkeit stellt sich eine zentrale Frage: Wer behält eigentlich den Überblick? Daher rücken menschliche Aufsicht, Kontrolle und Verantwortung stärker in den Fokus.

Genau hier setzt das Konzept des „Human on the Loop“ (HOTL) an. Anders als beim direkten Eingreifen in einzelne Entscheidungen überwachen Menschen AI-Systeme auf strategischer Ebene und schalten sich nur dann ein, wenn Anomalien auftreten oder kritische Schwellenwerte unterschritten werden. HOTL gilt damit als möglicher Ansatz, um Effizienzgewinne durch Automatisierung mit menschlicher Kontrolle zu verbinden.

Zusätzliche Relevanz erhält das Konzept durch die Vorgaben des EU AI Act, die die Anforderungen an Unternehmen deutlich verschärfen. Insbesondere für Hochrisiko-AI-Systeme schreibt die Verordnung ausdrücklich Mechanismen zur wirksamen menschlichen Überwachung vor. Ab August 2026 werden diese zentralen Anforderungen verbindlich – darunter auch konkrete Vorgaben zur menschlichen Aufsicht im Sinne des HOTL-Prinzips.

Dass menschliche Kontrolle trotz technologischer Fortschritte entscheidend bleibt und das Prinzip HOTL in Zukunft wichtig sein wird, geht auch aus aktuellen Forschungsergebnissen hervor. So beschreibt eine Studie des Massachusetts Institute of Technology zu Generative AI, dass Beschäftigte AI-Ergebnisse auch auf der strategischen Ebene nicht einfach übernehmen, sondern diese zunehmend prüfen, einordnen und verantworten müssen.