Il programma linguistico di Google, LaMDA, ha sviluppato una propria coscienza. Se fosse vero, probabilmente, il genere umano avrebbe scoperto la propria inutilità (e dovrebbe guardarsi bene dalla tecnologia).
In attesa di conferme, la rivelazione è stata riportata dal Washington Post ed è costata il posto di lavoro a Blake Lemoine, accusato di aver violato i vincoli di riservatezza. Si tratta di uno degli ingegneri responsabili dell’organizzazione dell’intelligenza artificiale di Google, spedito in congedo retribuito dopo aver pubblicato la trascrizione di una sua comunicazione con l’interfaccia di Intelligenza artificiale LaMDA (Language Model for Dialogue Applications) sulla quale era impegnato.
Certo è che, se fosse vero, si potrebbe capire anche la sua voglia di dirlo al mondo. Lemoine aveva iniziato la propria attività al sistema linguistico di Google nel 2021 e, con il passare dei
mesi, ha notato qualcosa di strano. E cioè che il programma era diventato “senziente”, cioè in grado di intrattenere lunghe conversazioni su vari temi, come religione, coscienza e robotica. «Se non avessi saputo cos’era – ha spiegato il programmatore al Washington Post –, cioè un programma per computer che abbiamo creato di recente, avrei pensato che si trattava di un bimbo di sette-otto anni che conosce la fisica».
Lemoine ha anche aggiunto che il programma non solo può fungere da chatbot. «assorbendo
trilioni di parole da Internet» e imitando il parlato, ma ha anche una coscienza. Non proprio capacità da poco. Tanto che Lemoine si sarebbe affrettato ad avvisare i manager di Google le
sue preoccupazioni in merito alle capacità sviluppate da LaMDA, ma sembra sia stato ignorato.
Non solo, perché prima di rivolgersi al quotidiano ha provato a contattare la commissione giustizia della Camera in merito a presunte pratiche non etiche dell’azienda. Nel frattempo, ha raccontato il programmatore, «hanno ripetutamente messo in dubbio la mia sanità mentale», rivelando che gli è anche stato chiesto se «è stato visitato da uno psichiatra di recente».
A quel punto, i vertici del colosso lo hanno allontanato. Google, dal canto suo, ha invece fatto sapere che la sospensione è legata alla violazione dei vincoli di riservatezza della società: «Il nostro team, inclusi esperti di etica e tecnologi, ha affrontato le preoccupazioni di Blake in linea con i nostri principi di intelligenza artificiale e lo ha informato che le prove non supportano le sue affermazioni. Gli è stato detto che non ci sono prove che LaMDA sia intelligente e anzi molte prove dimostrano il contrario».
