Nieuws
AI is bevooroordeeld: wie draagt de schuld?
Waarom wordt AI zo snel bevooroordeeld? In deze aflevering onderzoekt Ilyaz Nasrullah hoe chatbots als Microsoft Tay ontspoorden en waarom Google's fotolabeling racistisch uitpakte. Hij vraagt zich af of de schuld ligt bij de techbedrijven, de trainingsdata of de gebruikers.
5. AI is bevooroordeeld. Wiens schuld is dat?
Opvallend
- Microsofts chatbot Tay veranderde binnen 16 uur na lancering op Twitter van een vriendelijke tiener in een nazistische, racistische en seksistische chatbot.
- Google Photos labelde in 2016 zwarte mensen als gorilla, waarna Google de categorie simpelweg uit de taxonomie verwijderde.
- De AI van de Belastingdienst gebruikte tweede nationaliteit als voorspeller voor fraude, wat leidde tot het toeslagenschandaal.
- ChatGPT's veiligheidsfilter kan worden uitgeschakeld door een willekeurige reeks tekens aan de prompt toe te voegen.
- In de museumwereld worden gevoelige labels zoals koloniale termen genuanceerd herlabeld, in plaats van simpelweg geschrapt zoals bij techbedrijven.