Anche l’intelligenza artificiale ha i suoi pregiudizi

Credevamo che fosse un comportamento tipicamente umano, ma a quanto pare anche gli automi dotati di intelligenza artificiale tendono ad interagire più facilmente con individui del proprio gruppo sviluppando pregiudizi nei confronti degli altri. E lo fanno in maniera del tutto autonoma, senza alcun intervento del programmatore, imparando l’uno dall’altro. È quello che emerge da una ricerca condotta da un team di ricercatori dell’Università di Cardiff, in Gran Bretagna, e dal Massachusetts Institute of Technology (Mit) di Boston. Lo studio, pubblicato sulla rivista Scientific Reports, analizza le interazioni sociali in una popolazione di robot suddivisa in gruppi attraverso modelli matematici e migliaia di simulazioni.

“Gruppi di automi – sottolineano gli autori – possono manifestare pregiudizi semplicemente identificando, copiando e imparando questo comportamento gli uni dagli altri”. Per dimostrarlo i ricercatori hanno predisposto un gioco in cui ogni agente virtuale doveva scegliere di donare qualcosa ad un elemento del proprio o di un altro gruppo, sulla base della sua reputazione e di differenti strategie di donazione. Man mano che il gioco si svolgeva, mentre un supercomputer creava migliaia di simulazioni, ciascun robot imparava nuove strategie copiando gli altri all’interno del proprio gruppo di riferimento o attingendo alle strategie messe in campo dagli altri gruppi coinvolti nell’esperimento. Con il passare del tempo i robot iniziavano a sviluppare pregiudizi nei confronti dei robot degli altri gruppi preferendo quelli del proprio. Questo accadeva in particolare quando la comunicazione avveniva all’interno di piccoli gruppi, mentre quando la comunicazione era estesa a molti gruppi e l’informazione arrivava da più fonti, era più difficile che i pregiudizi prendessero piede.

“Eseguendo queste simulazioni migliaia e migliaia di volte – ha sottolineato Roger Whitaker, coautore dello studio – cominciamo a capire come il pregiudizio si evolve e le condizioni che lo promuovono o lo impediscono”. “Le nostre simulazioni –continua Whitaker- mostrano che il pregiudizio è una potente forza della natura, è insito nell’evoluzione e può svilupparsi anche in una popolazione virtuale, a scapito delle connessioni con gli altri”. A dimostrazione del fatto che per sviluppare pregiudizi o altri preconcetti non sono necessarie elevate capacità cognitive.

“Proteggersi da gruppi che agiscono sulla base di pregiudizi può portare inavvertitamente gli individui a formare ulteriori gruppi contraddistinti da un pregiudizio comune. Il risultato è quello di una popolazione frammentata. Un pregiudizio così ampio diventa difficile da far regredire.”

“È possibile –afferma Whitaker- che gli automi che manifestano l’abilità di copiare gli altri e di identificare la discriminazione potranno essere soggetti in futuro alla stessa tendenza a sviluppare pregiudizi che osserviamo negli esseri umani”. Occorrerà fare attenzione a gestire correttamente queste macchine autonome intelligenti per non perderne il controllo e garantirne lo sviluppo secondo opportune regole etiche.

Riferimenti: Scientific Reports