Definitie
Menselijk toezicht is het geheel aan ontwerp- en procesmaatregelen waarmee mensen controle behouden over een AI-systeem. Het omvat monitoring, reviewflows, escalatiepaden en de mogelijkheid om het systeem te overrulen, pauzeren of stop te zetten.
Waarom het belangrijk is
- Veiligheid: toezicht vangt fouten op vóór ze schade veroorzaken.
- Professionele normen: advies en beslissingen vereisen vaak menselijk oordeel.
- Compliance: sommige kaders vereisen effectief toezicht voor bepaalde systemen.
Hoe het werkt
Design controls + training + monitoring + interventie -> toezichtToezicht is pas “betekenisvol” als mensen tijd, informatie en bevoegdheid hebben om in te grijpen — niet als ze enkel aftekenen.
Praktisch voorbeeld
Een AI-assistent maakt samenvattingen, maar een professional moet bronnen en conclusies reviewen vóór verzending naar cliënten, met duidelijke checklists.
Veelgestelde vragen
Q: Is een disclaimer voldoende?
A: Nee. Toezicht is een controlsysteem: monitoring, workflows en interventiecapaciteit.
Q: Moet een mens alles lezen?
A: Niet altijd. Risicogebaseerd toezicht kan sampling, triggers en escalatie gebruiken voor high-impact outputs.
Gerelateerde termen
- EU AI Act — toezichtverplichtingen in bepaalde contexten
- Hoog-risico AI-systeem — waar controls strenger worden
- AI-risicobeheer — toezicht als mitigatie
- Modelverantwoordelijkheid — ownership en approvals
- Algoritmische transparantie — informatie voor toezicht
Referenties
Verordening (EU) 2024/1689 (EU AI Act).
References
Regulation (EU) 2024/1689 (EU AI Act).