Definition
Menschliche Aufsicht umfasst Design- und Betriebsmaßnahmen, die Menschen in Kontrolle halten. Dazu gehören Monitoring, Review-Workflows, Eskalation und die Fähigkeit, das System zu übersteuern, zu pausieren oder zu stoppen.
Warum es wichtig ist
- Sicherheit: Aufsicht fängt Fehler ab, bevor Schaden entsteht.
- Berufsstandards: viele Entscheidungen benötigen menschliches Urteil.
- Compliance: bestimmte Regime verlangen effektive Aufsicht.
Wie es funktioniert
Design-Controls + Training + Monitoring + Intervention -> AufsichtAufsicht ist nur dann “sinnvoll”, wenn Menschen Zeit, Information und Autorität haben — nicht wenn sie Outputs nur abnicken.
Praktisches Beispiel
Ein KI-Assistent erstellt Zusammenfassungen, aber ein Profi prüft Quellen und Schlussfolgerungen vor Versand an Mandanten, mit klaren Checkpoints.
Häufige Fragen
Q: Reicht ein Disclaimer?
A: Nein. Aufsicht ist ein Controls-System: Monitoring, Prozesse und Interventionsmöglichkeiten.
Q: Muss ein Mensch alles lesen?
A: Nicht immer. Risikobasierte Aufsicht kann Sampling, Trigger und Eskalation für High-Impact Outputs nutzen.
Verwandte Begriffe
- EU AI Act — Aufsichtspflichten in bestimmten Fällen
- Hochrisiko-KI-System — verstärkte Controls
- AI Risk Management — Aufsicht als Mitigation
- Modellverantwortung — Ownership und Freigaben
- Algorithmische Transparenz — Information für Aufsicht
Referenzen
Verordnung (EU) 2024/1689 (EU AI Act).
References
Regulation (EU) 2024/1689 (EU AI Act).