Una tecnologia non neutra: il problema nel riconoscimento tra bias e discriminazioni biometriche

I sistemi biometrici non operano tutti allo stesso modo né a livello tecnico, ne pratico per gli individui, le analisi del National Institute of Standards and Technology (NIST) mostrano come numerosi software di autenticazione facciale abbiano tassi di errore molto più elevati su donne e individui anziani o dalla pelle scura, ciò accade a causa di modelli addestrati su dataset poco rappresentativi, nel quale “ l’individuo medio” è bianco e caucasico.

Di conseguenza, questa discriminazione nasce involontariamente, alla costruzione della tecnologia, e a causa quindi del suo status di inaccuratezza all’interno di un algoritmo, può portare a sospetti, controlli e ritardi, accentuando la conseguenza discriminatoria.

Come evidenzia e dimostra van der Ploeg (2003), l’identificazione biometrica trasforma caratteristiche fisiche in dati comparabili, e quando queste classificazioni non sono equilibrate finiscono per colpire gruppi sociali già vulnerabili. Ciò può rafforzare disuguaglianze preesistenti: chi appartiene ai gruppi più rappresentati nei dataset sperimenta processi di identificazione più fluidi, mentre altri incontrano errori, controlli aggiuntivi o esclusioni involontarie.

Questa questione riguarda soprattutto la giustizia sociale, se un sistema automatizzato funziona bene per alcuni e male per altri si crea un evidente forma di asimmetria, in quanto l’efficacia cambia in base al gruppo considerato, le politiche normative più recenti, come l’AI Act chiedono audit e verifiche proprio per limitare questi rischi, con documenti che verifichino l’integrità morale e tecnica di specifici modelli alla loro distribuzione, trasformando i problemi una volta definiti unicamente tecnici in discriminazione biobetriche di progettazione. Per affrontare questi Bias è quindi fondamentale tenere in considerazione chi partecipa alla programmazione, quale materiale viene utilizzato e quali valori sono considerati centrali nello sviluppo.

---

Fonti delle immagini

Immagine 1 generata con AI (DALL•E, open ai)

Immagine 2 Candace Marshall Deep learning vs. machine learning: A complete guide

Risorsa: https://www.zendesk.com/blog/machine-learning-and-deep-learning/

Vai alla Bibliografia

accuracy disparities