AP luidt noodklok over AI die emoties herkent

De Autoriteit Persoonsgegevens (AP) maakt zich ernstig zorgen over het gebruik van kunstmatige intelligentie om menselijke emoties te herkennen door bedrijven. Volgens toezichthouder rust de technologie op omstreden aannames met het risico op discriminatie en inbreuk op menselijke waardigheid.

Emotieherkenning met hulp van AI wordt steeds vaker toegepast door organisaties, bijvoorbeeld door klantenservices die stemgeluid analyseren om frustratie of juist tevredenheid te signaleren of in wearables die stress proberen te detecteren. Volgens de AP ziet 45% van de Nederlandse klantenservices kansen in deze AI-functie en past een klein deel die al toe. 

"Emoties raken sterk aan je menselijke autonomie. Als je emoties wilt herkennen, moet dat dan ook zeer zorgvuldig en op basis van betrouwbare technologie gebeuren. Daar is nu vaak geen sprake van", zegt Aleid Wolfsen, voorzitter van de AP.

Consumenten hebben geen flauw benul

Het struikelblok is dat consumenten vaak niet weten dat hun emoties worden opgepikt. Bedrijven melden vaak wel dat gesprekken worden opgenomen voor kwaliteitsdoeleinden, maar 'vergeten' te vermelden dat emotieherkenning plaatsvindt. 

Ook het idee dat emotie door iedereen hetzelfde wordt ervaren, is een knelpunt, vertelt Wolfsen: "Tussen culturen kunnen er grote verschillen zijn in hoe mensen emoties ervaren, uiten en benoemen. Ook tussen individuen kunnen verschillen bestaan, bijvoorbeeld door leeftijd. Verder kun je emoties niet altijd een-op-een vertalen. Een hoge hartslag is immers niet altijd een teken van angst, en een harde stem niet altijd een uitdrukking van woede."