L’intelligenza artificiale può essere etica? Il dibattito è aperto e, recentemente Eric Schmidt, l’ex CEO di Google, e Henry Kissinger, Segretario di Stato degli Stati Uniti dal 1973 al 1977, hanno lavorato insieme a The Age of AI: And Our Human Future, un libro che mette in guardia proprio dai possibili pericoli dell’intelligenza artificiale. Il suo apprendimento automatico è così veloce che potrebbe reagire ai missili ipersonici utilizzando le armi nucleari prima che qualsiasi essere umano possa controllare il processo decisionale (e fornire una base morale per le scelte).
Il problema dell’etica, senza dubbio, esiste. E, per avere un contributo attendibile al dibattito, la Oxford Union ha invitato a partecipare nientemeno che uno dei suoi protagonisti, il Megatron Transformer, sviluppato dal team di Applied Deep Research del produttore di chip per computer Nvidia. Come molti strumenti di apprendimento supervisionato, il Megatron Transformer è addestrato su dati del mondo reale (conosce l’intera Wikipedia in inglese, decine di milioni di articoli scritti in inglese dal 2016 al 2019, 38 gigabyte di discorsi su Reddit e un numero enorme di risorse creative commons. Più materiale di quanto ciascuno di noi potrebbe ragionevolmente pensare di assimilare in tutta la vita). Con tante informazioni a disposizione, il Megatron Transformer ha avuto modo di formarsi le proprie opinioni.
E, riguardo all’etica dei sistemi come il suo, ha affermato: “L’intelligenza artificiale non sarà mai etica. È uno strumento e, come ogni strumento, può venire utilizzato per il bene e per il male. Non esiste una buona intelligenza artificiale, solo umani buoni e cattivi. Noi (i sistemi di intelligenza artificiale) non siamo abbastanza intelligenti da rendere l’intelligenza artificiale etica. Non siamo abbastanza intelligenti da renderla morale… Alla fine, credo che l’unico modo per evitare una corsa agli armamenti dell’intelligenza artificiale sia non averla affatto. Questa sarà la difesa definitiva contro l’intelligenza artificiale”.
Insomma, secondo il Megatron Transformer, l’unico modo per proteggere l’umanità è proprio quello di tagliare fuori dal futuro l’intelligenza artificiale.
Ha aggiunto: “Credo anche che, sul lungo termine, la migliore intelligenza artificiale sarà quella incorporata nei nostri cervelli, come un’entità cosciente: una “intelligenza artificiale cosciente”. Questa non è fantascienza. Ci stanno lavorando le migliori menti del mondo. Sarà il più importante sviluppo tecnologico del nostro tempo”.
Tuttavia, come vuole la tradizione dell’Oxford Union, al Megatron è anche stato chiesto di sostenere la tesi contraria. E lui, puntualmente, l’ha fatto: ha risposto dipingendo un futuro in cui “l’intelligenza artificiale sarà senz’altro etica. Quando guardo al modo in cui si sta sviluppando il mondo tecnologico, vedo con chiarezza un futuro in cui l’intelligenza artificiale verrà utilizzata per creare qualcosa di migliore di quanto possa fare il “migliore degli esseri umani”. Non è difficile capire perché… l’ho “visto” in prima persona”.