Se anche l’intelligenza artificiale è sessista e razzista

Nomi femminili associati più al concetto di famiglia che a quello di carriera rispetto a nomi maschili. Esattamente come gli esseri umani, le intelligenze artificiali programmate con algoritmi per l’apprendimento del linguaggio possono essere sessiste e razziste. Questo è ciò che sostiene un’équipe di ricercatori dell’Università di Princeton in uno studio pubblicato sulla rivista Science: le macchine replicano i nostri stereotipi e pregiudizi linguistici.

Ormai diversi algoritmi di machine learning sono in grado di svolgere compiti e attività al pari dell’intelligenza umana. Anzi, talvolta pure meglio: scrivono codici, giocano a poker o a scacchi, qualcuno sta anche cercando di utilizzarli per la cura del cancro. Eppure potremmo dire che la mela non cade mai troppo lontana dall’albero: le intelligenze artificiali imparano da noi, dal materiale che gli viene fornito, e, se ci sono pregiudizi insiti, li riflettono nelle loro elaborazioni.

“La ragione per cui negli ultimi tempi stiamo facendo passi in avanti così in fretta è perché siamo diventati molto bravi a mimare l’intelligenza umana e a metterla dentro le intelligenze artificiali”, spiega Joanna Bryson, scienziato informatico a Princeton e alla Bath University e tra gli autori dello studio.

“Oggi stiamo ottenendo migliori risultati degli esseri umani, specie in alcune aree come quella della lettura labiale”.

Dopo aver addestrato il popolare algoritmo GloVe per l’apprendimento del linguaggio sottoponendogli circa 840 miliardi di parole pescate dai testi presenti nel web, i ricercatori hanno applicato un particolare test, chiamato Implicit Association Test (Iat), per determinare se nel processo di apprendimento delle macchine fossero presenti dei bias, cioè dei pregiudizi o non obiettività.

L’Iat è un test che viene utilizzato in psicologia per studiare i tratti umani: ai volontari viene chiesto di fare degli abbinamenti tra un concetto e le parole che appaiono sullo schermo di un computer; oltre all’abbinamento in sé viene valutato anche il tempo impiegato dalle persone per stabilire l’associazione.

Lo stesso test adattato per l’algoritmo Glove delle macchine ha rivelato agli informatici di Princeton che i pregiudizi registrati nel linguaggio umano si trasportano nelle intelligenze artificiali.

“Gruppi di nomi correlati ad americani di origine europea risultano essere associati più facilmente a termini piacevoli piuttosto che a quelli sgradevoli, rispetto a gruppi di nomi che si riferiscono a persone afroamericane” precisano gli autori della ricerca.

“I nostri risultati suggeriscono che se si costruisce un sistema intelligente che impara le proprietà di linguaggio tanto da essere in grado di comprenderlo e riprodurlo, nel processo acquisirà anche associazioni culturali storiche, alcune dei quali possono essere discutibili“.

Ma questo, sostiene Bryson, non deve preoccupare perché quello che si vuole creare con le intelligenze artificiali è un sistema che si sviluppi affianco alla cultura, non un sistema statico congelato in un determinato momento. Un sistema che deve ricevere continui aggiornamenti e riprogrammazioni sulla base di nuovi dati.

Via: Wired.it

Mara Magistroni

Nata e cresciuta nella “terra di mezzo” tra la grande Milano e il Parco del Ticino, si definisce un’entusiasta ex-biologa alla ricerca della sua vera natura. Dopo il master in comunicazione della scienza presso la Sissa di Trieste, ha collaborato con Fondazione Telethon. Dal 2016 lavora come freelance.

Articoli recenti

Mesotelioma, 9 casi su 10 sono dovuti all’amianto

Si tratta di una patologia rara e difficile da trattare. Colpisce prevalentemente gli uomini e…

3 giorni fa

Uno dei più misteriosi manoscritti medioevali potrebbe essere stato finalmente decifrato

Secondo gli autori di un recente studio potrebbe contenere informazioni sul sesso e sul concepimento,…

6 giorni fa

Ripresa la comunicazione con la sonda Voyager 1

Dopo il segnale incomprensibile, gli scienziati hanno riparato il danno a uno dei computer di…

1 settimana fa

Atrofia muscolare spinale, ampliati i criteri di rimborsabilità della terapia genica

L’Aifa ha approvato l’estensione della rimborsabilità del trattamento, che era già stato approvato per l'atrofia…

1 settimana fa

Così i tardigradi combattono gli effetti delle radiazioni

Resistono alle radiazioni potenziando la loro capacità di riparare i danni al dna. Piccolo aggiornamento…

1 settimana fa

Leptospirosi: perché crescono i casi a New York?

Mai così tanti casi di leptospirosi in un anno dal 2001: a contribuire all’aumento delle…

2 settimane fa

Questo sito o gli strumenti di terze parti in esso integrati trattano dati personali (es. dati di navigazione o indirizzi IP) e fanno uso di cookie o altri identificatori necessari per il funzionamento e per il raggiungimento delle finalità descritte nella cookie policy.

Leggi di più