Amazon non fornirà la tecnologia di riconoscimento facciale a polizia ed enti governativi

Amazon ha deciso di vietare per un anno l’utilizzo della sua controversa piattaforma di riconoscimento facciale Rekognition alle forze dell’ordine.

Vuoi rimanere aggiornato su tutte le ultime news? Iscriviti al nostro canale Telegram!

La notizia arriva appena due giorni dopo che IBM ha dichiarato che non avrebbe più offerto, sviluppato o ricercato la tecnologia di riconoscimento facciale, citando potenziali violazioni dei diritti umani e della privacy e ricerche che indicano che la tecnologia di riconoscimento facciale, nonostante i progressi forniti dall’intelligenza artificiale, presenta ancora delle distorsioni a livello di età, genere, razza ed etnia.

I difetti della moderna tecnologia di riconoscimento facciale, specialmente dal punto di vista del pregiudizio razziale, sono emersi grazie al lavoro di Joy Buolamwini, ricercatrice presso il MIT Media Lab, e Timnit Gebru, membro di Microsoft Research.

Buolamwini e Gebry hanno co-scritto un articolo – ampiamente citato – nel 2018 che ha riscontrato che i tassi di errore per i sistemi di riconoscimento facciale delle principali società tecnologiche, tra cui IBM e Microsoft, per l’identificazione di individui dalla pelle più scura erano molto più alti rispetto all’identificazione di individui dalla pelle bianca.

In uno studio del 2019, Buolamwini e la coautrice Deborah Raji hanno analizzato Rekognition e hanno scoperto che anche il sistema di Amazon aveva problemi significativi nell’identificazione del genere di individui dalla pelle più scura, facendo anche confusione tra i generi. Lo studio ha scoperto che il sistema funzionava invece con un tasso di errore vicino allo zero durante l’analisi delle immagini di persone dalla pelle più chiara.

Le scoperte di Buolamwini e Raji sono state successivamente supportate da un gruppo di ricercatori di intelligenza artificiale che hanno scritto una lettera aperta affermando che Rekognition è difettoso e non dovrebbe essere nelle mani delle forze dell’ordine.

In seguito alle fortissime proteste per la morte di George Floyd, Amazon ha deciso di non concedere più Rekognition. “Siamo dell’idea che i governi debbano mettere in atto norme più severe per regolamentare l’utilizzo etico della tecnologia di riconoscimento facciale e, in questi giorni, il Congresso sembra pronto ad affrontare questa sfida – scrive Amazon – Confidiamo e speriamo che questa moratoria di un anno possa conferire al Congresso abbastanza tempo per attuare regole appropriate, e siamo pronti a fare la nostra parte se richiesto”.