La denuncia è arrivata dall’Aclu, associazione californiana che si batte per la difesa dei diritti civili: Rekognition, il software di riconoscimento facciale sviluppato da Amazon, commette errori piuttosto grossolani, anche quando si parla di personaggi conosciuti e che ricoprono importanti ruoli pubblici. Il test è stato fatto prendendo da un database oltre 25 mila foto segnaletiche di persone che hanno avuto problemi con la giustizia, confrontandole con quelle dei 535 membri del Congresso americano. Il software ne ha erroneamente associati 28 a individui con precedenti penali. Ma a parte il risultato grottesco c’è di più.
Il riconoscimento facciale non distingue le minoranze etniche
Sono sei i politici afroamericani e altri di origine latina che sono stati identificati nella maniera sbagliata: una percentuale che suggerisce come il bias dell’intelligenza artificiale, alla base dei software di riconoscimento, nei confronti delle minoranze etniche sia ancora un grosso problema da affrontare. Il motivo principale è che probabilmente questi algoritmi sono stati allenati soprattutto con volti di uomini bianchi.
La risposta di Amazon
Amazon è però intervenuta per difendere la sua tecnologia: l’Aclu ha condotto il test accettando un risultato statisticamente corretto all’80%. Una soglia che per il gigante dell’ecommerce può essere utilizzata nel riconoscimento di oggetti o animali, non per gli uomini. Per gli individui dovrebbe essere fissato un livello di confidenza di almeno il 95%. Nonostante questa spiegazione, come riporta il New York Times, tre dei parlamentari americani coinvolti nel caso hanno scritto direttamente a Jeff Bezos per esprimere la loro preoccupazione legata all’adozione di questo strumento per le indagini.
I dubbi su Rekognition
In particolare nella lettera indirizzata al numero uno di Amazon vengono chiesti chiarimenti su come sono stati allenati gli algoritmi e su quali agenzie di intelligence o dipartimenti di polizia già utilizzano la tecnologia nel paese. Una mobilitazione a livello politico che si affianca a quella già messa in atto nei mesi passati dalle varie organizzazioni per i diritti civili, tra cui la stessa Aclu, che avevano lanciato l’allarme sull’uso della tecnologia a fini giudiziari. Ma alla protesta per l’utilizzo di Rekognition si erano poi anche aggiunti alcuni azionisti di Amazon che avevano chiesto all’azienda diinterrompere la vendita del servizio alla polizia americana.
Enrico Forzinetti, Corriere.it
