Amazon har förbjudit polisen att använda sin mjukvara för ansiktsigenkänning i ett år. Enligt regeringen är moratoriet för användningen av Amazon Rekognition utformat för att ge regeringar många möjligheter att införa regelverk och ramverk för att förhindra ansiktsigenkänning från att bidra till diskriminering i någon form. Under tiden kommer Amazon att fortsätta att tillåta organisationer som är dedikerade till att ta itu med frågor som människohandel och bortförande av barn att använda sin teknik. Tillkännagivandet följer på liknande åtgärder från IBM, som har stoppat all utvecklings- och forskningsverksamhet i samband med den kontroversiella tekniken på grund av risken för missbruk.
Amazon ansiktsigenkänning
Även om tekniken för ansiktsigenkänning har utvecklats avsevärt de senaste åren och kan bidra till legitima polisutredningar, har dess tillämpning alltid varit kontroversiell. Oron för möjligheterna till massövervakning och social poängsättning förvärras av frågan om AI-relaterad fördom, vilket kan leda till att människor diskrimineras baserat på deras fysiska egenskaper. Metoder för att granska datamängderna bakom AI-modeller (inklusive mjukvara för ansiktsigenkänning) för bias är fortfarande inkonsekventa och oreglerade, vilket ökar möjligheten att tekniken ytterligare kan skada demografiska minoritetsgrupper. Amazon Rekognition har själv tagit på sig rasfördomar, med en artikel från 2019 som författades av forskarna Joy Buolamwini och Deborah Raji som hävdar att programvaran misslyckas med att korrekt identifiera mörkhyade personer, och även blandar ihop kvinnor med mörkare hy. mörk hud med män. Studien fann också att Amazon-systemet kunde utvärdera bilder av ljushyade individer med nästan perfekt noggrannhet. Resultaten verifierades sedan av en grupp AI-forskare, som upprepade de farhågor som uttryckts av Buolamwini att tekniken inte borde användas i ett brottsbekämpande sammanhang. Amazon verkar ha kommit till samma slutsats, även om det aldrig har erkänt anklagelser om att dess Rekognition-programvara är rasistiskt partisk. "Vi genomför ett ettårigt moratorium för polisens användning av Amazons ansiktsigenkänningsteknik", heter det i ett uttalande från företaget. "Vi har förespråkat för regeringar att införa strängare regler för att styra den etiska användningen av ansiktsigenkänningsteknik, och de senaste dagarna verkar kongressen vara redo att anta denna utmaning." "Vi hoppas att detta ettåriga moratorium kan ge kongressen tillräckligt med tid för att implementera de lämpliga reglerna, och vi är redo att hjälpa till om du blir tillfrågad." Det är inte känt hur många brottsbekämpande myndigheter som använde Amazon Rekognition före förbudet, även om detta beslut markerar en radikal förändring av policyn sedan 2018, när AWS vd Andy Jassy berättade för anställda att han var nöjd med värdet som tjänsten erbjöd alla kunder, inklusive polisen. Via The Verge