Tecnologia razzista? L’algoritmo che non distingue neri e scimmie

Tutto è incominciato da un video, pubblicato su Facebook dal Daily Mail, tabloid britannico, il 27 giugno 2020. Il titolo è “L’uomo bianco chiama i poliziotti contro gli uomini di colore al porto turistico”. Si vede un gruppo di persone di colore: discutono con uomini bianchi e agenti di polizia. Non c’è nessun contenuto razzista. Semmai, la volontà di documentare. Come sappiamo, l’algoritmo di Facebook suggerisce ai lettori video attinenti alla loro ricerca precedente. In questo caso, si leggeva: “Continua a guardare video sui primati”. Ora la domanda è: qual è il collegamento? Come è possibile confondere neri e scimmie? La polemica è presto scoppiata, non si è fatta attendere. Possibile che non sia noto all’algoritmo che c’è una differenza?

Facebook ha immediatamente avviato un’indagine interna: ha prontamente disabilitato l’algoritmo e si è scusato. Un portavoce, in particolare, ha parlato di errore “inaccettabile”. Si agisce affinché tutto ciò “non accada di nuovo”. Facebook aggiunge: “abbiamo fatto dei miglioramenti alla nostra intelligenza artificiale, sappiamo che non è perfetta e che dobbiamo fare altri progressi“.

Da anni, comunque, i sistemi di intelligenza artificiale delle grandi società tecnologiche, da Facebook a Google a Amazon, sono sotto osservazione: proprio per i pregiudizi legati alla razza. Sulla base di alcune ricerche, il riconoscimento facciale avrebbe molte più difficoltà a identificare le persone di colore rispetto ai bianchi.

Per esempio, il 31enne Nijeer Parks assomigliava a un ricercato: è stata appunto l’intelligenza artificiale a identificarlo come colpevole e portarlo in carcere. Nel 2015, poi, c’è stato il caso dei tag di Google che definivano come “gorilla” due persone di colore. Forse il riconoscimento facciale è programmato con una prospettiva legata alla razza bianca e per questo non funziona.

E’ ormai noto a tutti che la parentela con la scimmia (Charles Darwin docet) riguardi una sola razza: quella umana, nella sua totalità. Una teoria, fortunatamente dimenticata, associava le singole popolazioni, con un determinato colore della pelle, a caratteristiche ereditarie relative all’intelligenza, al comportamento, alle abitudini. Un colore alle dimensioni di un cervello.

La verità è che non sono le razze, semmai l’ambiente, a stimolare l’intelligenza e a modellare il comportamento e le abitudini. Fortunatamente Facebook, noto in tutto il mondo, si dissocia. Il mondo è multicolore. Peraltro, è più facile cambiare la tecnologia che la mente dell’uomo.