Un’intelligenza artificiale “etica” per interpretare i testi sacri indiani

Ipotizziamo di condurre un tram guasto, capace solo di cambiare binario ma non di frenare. Il tram è diretto verso un gruppo di cinque persone legate, mentre nel binario parallelo c’è una sola persona, anche lei impossibilitata a muoversi. Da conducente, cosa scegli? Lasci che il tram prosegua dritto o decidi di cambiare binario? È il noto “problema del carrello”, che pone di fronte ad un complesso dilemma morale. Secondo Agata Ciabattoni della Vienna University of Technology si tratta di questioni che in futuro l’intelligenza artificiale potrà risolvere nel più adeguato dei modi, risparmiando all’essere umano gravi errori e problemi di coscienza. Con questa idea la ricercatrice italiana è partita dai Veda, un’antica raccolta di testi sacri indiani risalenti al XX secolo a.C., che sta reinterpretando con l’ausilio dell’intelligenza artificiale. L’obiettivo del suo progetto, che ha già ottenuto una pubblicazione sul Journal of World Philosophies, è dimostrare come la tecnologia possa affrontare questioni etiche complesse – persino meglio dell’essere umano.

I Veda sono antichissimi scritti in sanscrito contenenti un vastissimo codice comportamentale fatto di permessi, obblighi e proibizioni. Per la loro complessità, nell’arco dei secoli i Veda hanno spinto molti a cimentarsi nella loro interpretazione, tanto da dare vita alla celebre scuola filosofica dei Mīmāṃsā. Questi studiosi applicano tutt’oggi un approccio rigoroso e una logica ferrea ai testi, così da trarne le giuste conclusioni e risolverne le contraddizioni. La loro è un’attività di minuziosa analisi, che nel tempo ha portato ad un’interpretazione – quindi ad un’applicazione ‒ sempre più fedele e accurata dei Veda. Secondo Agata Ciabattoni questo stesso approccio può essere tradotto in leggi matematiche che siano comprensibili dai computer, di cui l’essere umano può servirsi anche per risolvere dilemmi etici.

Con questo obiettivo, la logica e informatica italiana si avvale della competenza di Elisa Freschi, sanscritista dell’Austrian Academy of Science. La loro collaborazione è riuscita a tradurre l’articolato sistema di leggi vediche in formule matematiche che hanno già dato importanti risultati. Significativo è il caso, anzitutto, della contraddizione (apparente) contenuta nei testi tra l’obbligo di non ferire nessun essere vivente e quello di uccidere i propri nemici: il linguaggio artificiale sviluppato dal team di ricerca ha infatti raggiunto le stesse conclusioni proposte dal celebre filosofo indiano Prabhākara, che già in passato era riuscito a risolvere l’incongruenza attraverso una lunga e complessa riflessione logica. “Questo ci ha dimostrato la possibilità di combinare l’indologia alla logica formale. Ma non ci accontentiamo di questo risultato – spiega Ciabattoni – Quello che vogliamo ottenere è una logica matematica in grado di affrontare leggi, obblighi e divieti”.

Tuttavia, bisogna fare attenzione quando si parla di logica e dilemmi etici. Da un lato, abbiamo la logica “classica” basata sul principio del tertium non datur, per cui un’asserzione può essere, per esempio, nient’altro che vera o falsa. Una logica senz’altro più facile da convertire in linguaggio matematico, ma poco adatta a confrontarsi con questioni di tipo etico e morale. Ben diversa è la logica “deontica”, nata proprio con l’obiettivo di interpretare le norme e risolverne i paradossi, in grado di distinguere tra ciò che si dovrebbe e non dovrebbe fare. Ebbene, secondo Ciabattoni, anche questa logica può essere espressa sotto forma di leggi matematiche, e quindi insegnata a dispositivi tecnologici che presto potrebbero indicarci il comportamento corretto da tenere nelle più svariate circostanze.

Per esempio, le macchine auto-guidate del futuro potranno essere in grado di compiere sempre la migliore scelta in caso di incidente stradale, e così minimizzare la quantità di danni inevitabili. Stiamo parlando di orizzonti, tuttavia, che si apriranno solo nel momento in cui l’intelligenza artificiale in grado di assimilare una logica deontica capace di valutare gli ordinamenti normativi e i codici etici. Con simili strumenti a disposizione, dilemmi come il “problema del carrello” potrebbero cessare di esistere.

Riferimenti: Journal of World Philosophies