Gadgetshowto
Under de senaste tio åren har USA bevittnat 180 skottkonstruktioner med svimlande 356 offer. Med svagare vapenkontrolllagar i landet vänder skolor sig till Artificiell intelligens (AI) för att skydda studenterna. Men ett nyligen AI-system installerat i nästan nio amerikanska offentliga skolor, enligt Recode, väckte vissa integritetsproblem.
Den AI-baserade programvaran heter Appearance Search och är utvecklad av ett företag som heter Avigilon. Programvaran kan hitta en student på ett skolcampus baserat på deras utseende, ålder, kön, kläder och vissa ansiktsdrag.
Programvaran gör det möjligt för skoladministrationen att hitta en student och hitta möjliga platser där de har varit inne på campus där det finns övervakningskameror. Den använder fysiska beskrivningar som personens ålder, kön och hårfärg. Genom att analysera egenskaperna söker programvaran efter matchningar från andra videofilmer. Så verktyget kan inte berätta vem personen exakt är, men det kan berätta var de kan ha varit under sin tid i skolområdet.
Hur utseende Sök fungerar
Programvaran är integrerad i skolans övervakningssystem. Så om en skolans säkerhetsansvarig bevittnar misstänkt studentaktivitet kan han / hon klicka på den specifika elevens kropp för att få mer information om eleven. Mjukvaran kommer att analysera studentens fysiska egenskaper som kläder, kön, hårfärg och vad Avigilon säger några ansiktsegenskaper. Efter analys av nämnda funktioner matchar programvaran sedan bilden med vilken bild som helst som har liknande egenskaper hos andra kameraflöden.
Sekretessbekymmerna
Som vanligt med AI-programvara kommer uppenbara integritetsproblem och den här programvaran är inte annorlunda. Många säkerhets- och sekretessexperter har ifrågasatt Avigilons utseende.
”Människor uppför sig inte samma sak när de ses” påminner Brenda Leong, chef för AI och etik vid Future of Privacy Forum. "Vill vi verkligen att både unga studenter och gymnasieelever och någon annan känner att de arbetar i den miljön hela tiden?"
Även om denna programvara ska öka säkerheten och minska våldet i skolorna, används den på ett annat sätt. Skoladministratörer använder detta verktyg för att övervaka mobbning, uppförandekoder för elever och också för att underlätta utredningar av skolanställda.
Denna teknik är inte helt ansiktsigenkänning baserat, det är dock en programvara som kan känna igen vissa funktioner i ansiktet. Varoon Mathur, en forskare som studerar maskininlärning vid AI Now Institute, anser att Appearance Search använder ”objektdetektering”. Medan Logan Koepke från digitala rättigheter ideell uppgång kallar det en "person upptäckt" programvara eftersom det analyserar andra funktioner hos personen och inte uteslutande ansiktet.
Med denna programvara på gång i de flesta skolor i USA kan eleverna aldrig ha integritet. Skoladministratörer rapporterade att det inte har rapporterats om integritetsintrång avseende programvaran.
Men den tidigare Marjory Stoneman Douglas High School (en skola där programvaran redan har installerats), sa Koerber, ”En skolskytte kan hända när som helst och var som helst. Vi vet det. Men behöver vi inkräkta på integriteten för varje person som anmäler sig till en viss skola för att förhindra det? Jag tror inte att det är fallet. ”
