Programvara för ansiktsigenkänning är partisk baserat på genus- och rasstudier

Ansiktsigenkänningsteknik är inte längre en gimmick. Det används alltmer på fler fotgängarvägar och visar inga tecken på att sakta ner. Idag, förutom att de används för att låsa upp dina smartphones, har ansiktsigenkänning gjort det till alla vinklar och krokar. Faktum är att tekniken används av kinesiska poliser för att identifiera misstänkta.

Enligt ny forskning från MIT: s Media Lab verkar det dock som om ansiktsigenkänningstekniken är föremål för fördomar baserat på kön och ras. Joy Buolamwini, forskare vid MIT Media Lab, byggde en dataset med 1 270 ansikten. Hon testade sedan noggrannheten i tre ansiktsigenkänningssystem från Microsoft, IBM och Megvii (ett kinesiskt företag). Överraskande visade resultatet felaktigheter i könsidentifiering.

När systemen visades bilderna av hanar med ljusare skinn kunde det identifiera dem ganska enkelt. Systemet identifierade emellertid upp till 12 procent av de mörkare män. och upp till 35 procent av de mörkare kvinnorna.

"Sammantaget klassificerades manliga ämnen mer exakt än kvinnliga ämnen som replikerade tidigare resultat (Ngan et al., 2015), och ljusare ämnen klassificerades mer exakt än mörkare individer." - Joy Buolamwini

Till detta sa IBM att de ständigt hade förbättrat sin ansiktsanalysprogramvara och var "djupt engagerade" för "opartiska" och "transparenta" tjänster. Microsoft, å andra sidan, sa, ”Vi har redan vidtagit åtgärder för att förbättra noggrannheten i vår ansiktsigenkänningsteknik ”och att den investerade i forskning” för att känna igen, förstå och ta bort fördomar.”Och slutligen svarade inte Megvii.

Med detta sagt är detta inte första gången som teknik för ansiktsigenkänning har visat sig vara felaktig. Tillbaka 2015 kallades Google ut av en programvarutekniker när Photos-appen identifierade sin svarta vän som "gorillor."