Définition
La supervision humaine regroupe les mesures de conception et d’exploitation qui maintiennent l’humain en contrôle. Cela inclut monitoring, workflows de revue, escalade, et capacité d’override, de pause ou d’arrêt.
Pourquoi c’est important
- Sécurité: détecter les défaillances avant qu’elles ne causent des dommages.
- Normes professionnelles: certaines décisions exigent du jugement humain.
- Conformité: certains cadres imposent une supervision effective.
Comment ça fonctionne
Contrôles de design + formation + monitoring + intervention -> supervisionLa supervision est “significative” si l’humain a le temps, l’information et l’autorité d’agir — pas si c’est un simple tampon.
Exemple pratique
Un assistant IA rédige une synthèse, mais un professionnel vérifie sources et conclusions avant envoi au client, avec des critères de contrôle explicites.
Questions fréquentes
Q: Un disclaimer suffit-il?
R: Non. La supervision est un système de contrôles: monitoring, processus et capacités d’intervention.
Q: Faut-il relire chaque sortie?
R: Pas toujours. Une supervision basée sur le risque peut utiliser sampling, déclencheurs et escalade pour les cas à fort impact.
Termes associés
- EU AI Act — obligations de supervision dans certains cas
- Système d’IA à haut risque — contrôles renforcés
- Gestion des risques IA — supervision comme mitigation
- Responsabilité du modèle — ownership et approbations
- Transparence algorithmique — information nécessaire
Références
Règlement (UE) 2024/1689 (EU AI Act).
References
Regulation (EU) 2024/1689 (EU AI Act).