Lo scorso maggio, l’attrice Scarlett Johansson ha fatto una dichiarazione di fuoco sul rilascio di una nuova voce chiamata Sky per il bot ChatGPT 4.0 di OpenAI. A detta di Johansson, per molti, compresi i suoi «amici più cari», la voce era identica alla sua. Già questo sarebbe stato abbastanza inquietante, ma pare che il gigante tecnologico l’avesse contattata, mesi prima, proponendole di fornirle lei stessa la voce di Sky, sperando di sfruttare la sua celebrità per stemperare almeno in parte l’attrito tra Hollywood e l’industria dell’intelligenza artificiale. Lei aveva rifiutato, come ha spiegato nella sua dichiarazione.
È per questo che Johansson ha detto di essere rimasta «scioccata, arrabbiata e incredula» dopo avere ascoltato la versione demo rilasciata mentre Sam Altman, CEO di OpenAI, le chiedeva di valutare nuovamente l’idea di una partnership ufficiale. Altman ha persino incoraggiato l’identificazione di Johansson con Sky, postando la parola her (“lei”) su X, l’ex Twitter, prima del lancio: un richiamo al film di fantascienza del 2013 Her, in cui Johansson dà voce a un sistema di chat intelligente. Armatasi di un legale, l’attrice ha fatto pressione sull’azienda perché rivelasse il procedimento esatto seguito per creare Sky; in risposta, ha detto, hanno accettato «a malincuore» di eliminare la feature.
Benvenuti nella nuova normalità per i personaggi pubblici più in vista: non dovete preoccuparvi soltanto degli eventuali impostori che si spacciano per voi con l’aiuto di voci o immagini generate dall’AI (Brad Pitt ha appena espresso il suo sgomento per la storia di una donna francese che ha perso più di 850.000 dollari per colpa di un truffatore che ha creato un account Instagram con immagini dell’attore in ospedale, create con l’Intelligenza Artificiale), ma un’azienda multimiliardaria della Silicon Valley potrebbe cercare di “prendere in prestito” la vostra preziosa immagine per promuovere le proprie attività. Visto che stanno già addestrando i loro bot utilizzando dati privati e materiale protetto da copyright, perché non dovrebbero usare dei volti famosi?
In un quadro generale di questo tipo una celebrity potrebbe tirare un sospiro di sollievo sentendo parlare di Loti, un’azienda di “tecnologia per la protezione dell’immagine” che lo scorso autunno ha raccolto finanziamenti per sette milioni di dollari e continua a espandersi. Il CEO e Co-Founder Luke Arrigoni non è autorizzato a fare i nomi di clienti specifici (che sono rappresentati da pesi massimi come William Morris Endeavor, Creative Artists Agency e United Talent Agency), ma può dire di aver prestato consulenza in molti casi di alto profilo in cui un attore o un musicista sospettava che i suoi attributi unici fossero stati replicati illecitamente, in qualche forma.
Quando sembrano esserci immagini, video o audio senza licenza, modellati su una persona vivente, è probabile che il team che si occupa di gestire la persona in questione si rivolga a Loti. «Ci chiamano quasi sempre in quelle situazioni in cui si sente parlare di una celebrity colpita da deepfake o sfruttata, nello specifico, in un prodotto di AI molto diffuso», spiega Arrigoni a Rolling Stone US. Il lavoro di Loti può comportare un’analisi tecnica dei contenuti per aiutare gli avvocati a capire la probabilità che un deepfake sia basato sul loro cliente. «Per esempio, si può dire a qualcuno: questa voce ha questa percentuale di corrispondenza», spiega Arrigoni. «Da un segmento di 10 o 15 secondi cantato a cappella, posso scoprire quando qualcuno utilizza quella voce per creare una canzone diversa con l’AI». Oltre a queste prove di potenziale appropriazione indebita, l’avvocato è in grado di preparare i team legali alle argomentazioni che probabilmente utilizzeranno i consulenti delle aziende di AI che difendono i loro prodotti e contenuti. Ma sottolinea che il suo compito è quello di fornire informazioni rilevanti, «non di dire loro cosa fare».
Arrigoni non ha un background di tipo legale, ma è un esperto di scienza dei dati (si autodefinisce un «matematico» e disprezza le parole chiave più trendy del giro dell’AI), e in passato ha trascorso una decina d’anni lavorando su problematiche di dati per grandi marchi. Loti è nata nel 2022 come una specie di operazione non profit, quando lui e sua moglie, la cofounder Rebekah Arrigoni, stavano guardando la seconda stagione di Euphoria su HBO e c’era una trama sul tema del revenge porn. In quel periodo lui stava seguendo un cliente in grado di trovare corrispondenze per il riconoscimento facciale utilizzando solamente una parte del volto di una persona. La coppia ha avuto l’idea di impiegare questa tecnologia per segnalare i casi in cui l’immagine di una persona appare online senza il suo permesso, per poi inviare avvisi di violazione di copyright e chiederne la rimozione. Ci siamo detti: «Potremmo prendere questa tecnologia e usarla su Internet, poi possiamo elaborare uno script per inviare gli avvisi di rimozione», ricorda Arrigoni. «Era una cosa che interessava entrambi».
Mentre il team di tecnici di Arrigoni assemblava questo tool di AI per la scansione del web e Rebekah iniziava a sviluppare un piano di consulenza legato a questo strumento, sono iniziati gli scioperi di Hollywood del 2023, durante i quali l’AI ha rappresentato un punto di rottura nella disputa sindacale tra attori e scrittori e la dirigenza degli studios. «Ho chiamato un po’ di amici del mondo dello spettacolo e ho detto: “Vi piacerebbe se questa cosa che ho creato vi aiutasse in questa situazione specifica, una tantum, a trovare le imitazioni fatte con l’AI e a difendervi dal loro utilizzo?”», racconta Arrigoni. Erano interessati e Loti ha «ampliato in modo massiccio l’area scansionata», spiega. «Non si trattava più solamente di alcune zone nevralgiche di Internet, ma dell’intera rete. E abbiamo aggiunto anche la voce. Avevamo creato un sistema di rilevamento di deepfake».
Ciò che ora gli Arrigoni gestiscono è una specie di leader in una nuova frontiera inesplorata della sicurezza digitale e della privacy, che pubblicizza la sua capacità di setacciare algoritmicamente «100 milioni di immagini e video al giorno, in cerca di utilizzi impropri dei vostri contenuti o della vostra immagine», abbinando i contenuti al volto e alla voce di un cliente e inviando istantaneamente avvisi di rimozione per violazione di copyright. Loti si vanta del fatto che il suo motore di rimozione automatica ha un tasso di successo del 95% in 17 ore, eliminando la maggior parte del materiale lesivo entro una giornata: significa che, a differenza di quanto accaduto con la voce “Sky” di OpenAI, simile a quella di Johansson, questo materiale viene eliminato prima che arrivi al grande pubblico. Arrigoni sostiene di aver automatizzato una routine di lavoro che, fino a poco tempo, fa dipendeva da un processo molto meno efficiente e più frammentato: le fanbase notavano un utilizzo non autorizzato dell’immagine della loro celebrità preferita e lo segnalavano al management dell’individuo, mentre avvocati e agenti negoziavano con le piattaforme per la rimozione del contenuto illecito.
Questo non basta di fronte alla velocità frenetica attuale, dice Arrigoni. E spiega: «Potete incaricare il vostro studio legale di intimare 15 takedown oggi, ma nel frattempo verranno caricate 14 cose nuove». Loti, invece, è in grado di stare al passo con il carico enorme di lavoro. «Oggi posso inviare un migliaio di avvisi di rimozione per tutte le cose che sono state caricate ieri, e anche per alcune caricate stamattina», dice. In teoria, i fan non hanno nemmeno la possibilità di imbattersi in contenuti privi di licenza. Nel frattempo, i clienti famosi possono chiedere l’attivazione di filtri specifici per intercettare il materiale più dannoso per la loro reputazione, come i video deepfake di contenuto esplicito.
Ovviamente è un po’ imbarazzante tentare di convincere le persone del mondo dello spettacolo che l’AI è la soluzione ai problemi, generati dall’AI stessa, che hanno colpito il settore creativo negli ultimi anni. Arrigoni deve convincerle che Loti sta semplicemente combattendo il fuoco con il fuoco. «È molto cringe dire: “Sto creando un’azienda di AI”», scherza, aggiungendo che spesso «si scusa» per quella stessa tecnologia. «Tante di queste aziende di AI tendono a considerarsi molto più di quello che sono: credono di rendere il mondo un posto migliore e cose del genere. Noi non facciamo finta di essere nulla di tutto ciò».
Arrigoni dice ai suoi clienti potenziali: «Tecnicamente quello che facciamo è AI, ma in realtà cerchiamo di evitare che qualcuno usi l’AI per annientare i vostri guadagni, la vostra creatività, il vostro brand, la vostra reputazione». Alla fine, dice, molti sono impressionati da quanto materiale Loti riesca a catturare nella sua rete, e non vogliono proteggere solo se stessi. «Uno dei maggiori motivi di interesse verso il nostro prodotto», afferma Arrigoni, «è che i soggetti direttamente coinvolti non traggono necessariamente beneficio dal fatto di pagarci per i nostri servizi, ma sono stanchi di vedere che i loro fan vengono truffati» (ancora una volta, tutta la nostra solidarietà alla donna che pensava di pagare le cure ai reni di Brad Pitt).
Oltre ai grandi attori, Loti lavora con militari di rango, politici, CEO, titolari di lasciti e tanti musicisti di Nashville, il che significa che si presenteranno nuove sfide e precedenti legali in un’ampia gamma di settori. Che cosa succede se DreamWorks collabora con una startup di Intelligenza Artificiale e crea un personaggio di un film d’animazione che assomiglia in modo sorprendente a una celebrity non coinvolta nel progetto? Alcuni cittadini della Florida che, secondo quanto riportato, hanno ispirato scene del prossimo Grand Theft Auto VI si uniranno per fare causa congiuntamente a Rockstar Games? E gli Stati si stanno muovendo abbastanza velocemente per promulgare leggi come l’Ensuring Likeness Voice and Image Security (ELVIS) Act del Tennessee, firmato l’anno scorso in uno sforzo inedito per impedire che le voci degli artisti vengano clonate e falsificate?
Qualunque cosa accada, Arrigoni vuole che Loti continui a garantire che i fake non costituiscano più un’attività «redditizia» su Internet: «Quello che vogliamo fare è renderlo difficile, perché ora è troppo facile», dice. Con la corsa all’Intelligenza Artificiale che procede a gonfie vele e altri competitor pronti a entrare in gioco, difficilmente ci sarà da annoiarsi. Ma almeno una questione è risolta: il vostro assistente chatbot non parlerà come Scarlett Johansson.
