Definitie
Bias-mitigatie omvat technische én procesmatige maatregelen om onrechtvaardige of schadelijke verschillen door AI te verminderen. Je kunt ingrijpen op meerdere momenten: data, training, evaluatie en deployment.
Waarom het belangrijk is
- Fairness en schade: bias kan groepen of individuen benadelen.
- Reputatie: ervaren oneerlijkheid breekt vertrouwen snel af.
- Compliance: bij gereguleerde toepassingen is bewijs van testen en controls vaak nodig.
Hoe het werkt
Definieer fairness-doel -> meet -> mitigeer -> meet opnieuw -> monitor in productieMitigaties: betere datadekking, reweighting, constraints, post-processing en menselijke review bij gevoelige cases.
Praktisch voorbeeld
Als een AI-systeem wordt gebruikt om cliëntvragen te triëren, test je of bepaalde groepen systematisch trager worden bediend en pas je features, drempels en reviewregels aan.
Veelgestelde vragen
Q: Is bias hetzelfde als onjuistheid?
A: Niet altijd. Een model kan gemiddeld “goed” zijn en toch slecht presteren voor specifieke groepen.
Q: Kun je bias volledig verwijderen?
A: Meestal niet. Het doel is schadelijke disparities verminderen, tradeoffs documenteren en uitkomsten blijven monitoren.
Gerelateerde termen
- Data-ethiek — verantwoord datagebruik
- Algoritmische transparantie — beperkingen en testen disclosure
- AI-risicobeheer — bias als beheerst risico
- Modelverantwoordelijkheid — ownership van fairnesskeuzes
Referenties
Barocas, Hardt & Narayanan (2019), Fairness and Machine Learning.
References
Barocas, Hardt & Narayanan (2019), Fairness and Machine Learning.