Sai riconoscere un porno creato da un’intelligenza artificiale?

«Tutto bene, mi sento carina oggi», si legge nel post di Claudia. Lei ha una frangetta nera, dritta, dei grandissimi occhi fra il blu e il verde e sfoggia una scollatura ampia il giusto, che spunta da una canottierina grigia. Con la sua pelle d’alabastro, i lineamenti delicati e quell’acconciatura vagamente indie, è esattamente il tipo di ragazza per cui il “redditor” (l’utente di Reddit medio) potrebbe perdere la testa. E, infatti, i commenti al post di Claudia sul subreddit r/faces sono tutte declinazioni differenti dei concetti di «sei sexy» e «sei davvero splendida». Tranne uno.

«Per chi non lo sapesse, sono in procinto di fare a pezzi la vostra fantasia», si legge nel commento. «Questa è in tutto e per tutto una creazione dell’AI. Se avete trafficato abbastanza a lungo con i modelli di immagini AI e ne avete creati di vostri, lo potete vedere al 10.000%. Diciamo che mi dispiace rovinarvi la festa».

In effetti, Claudia è un personaggio generato dall’intelligenza artificiale e le sue foto osé (sempre frutto dell’intelligenza artificiale) sono state pubblicate su altri subreddit, tra cui r/normalnudes e r/amihot. È il risultato del lavoro di due studenti di informatica che hanno dichiarato a Rolling Stone di aver creato quell’account per gioco, dopo essersi imbattuti in un post su Reddit di un ragazzo che diceva di avere guadagnato 500 dollari adescando altri utenti con foto di donne reali. Loro hanno guadagnato circa 100 dollari vendendo i nudi di Claudia, finché altri redditor non hanno segnalato l’account.

«Si potrebbe dire che questo account è semplicemente un test per capire se è possibile ingannare le persone con immagini create dall’intelligenza artificiale», spiega il team che sta dietro a Claudia (hanno scelto di rimanere anonimi). «Si può paragonare a quello che fanno i vtuber, che creano dei personaggi e giocano utilizzando le loro identità. Onestamente non pensavamo che questa cosa avrebbe attirato così tanta attenzione».

Claudia è stata creata da Stable Diffusion, un programma di intelligenza artificiale che utilizza l’apprendimento automatico per generare foto dall’aspetto molto realistico partendo da una semplice stringa di testo (in questo caso, la richiesta testuale era di creare un selfie di una donna, a casa sua, «senza trucco, con capelli neri, lisci, lunghi fino alle spalle, con la frangia, su uno sfondo semplice»). Claudia è una delle prime, ma certamente non l’ultima, creatrice di finti contenuti per adulti generati da quella tecnologia in rapida evoluzione legata all’AI che ha fatto nascere una serie di interrogativi e perplessità di carattere etico.

La stragrande maggioranza delle discussioni sui pericoli dell’intelligenza artificiale applicata ai contenuti per adulti si è concentrata sulla proliferazione dei deepfake, un termine che descrive un’immagine o un video in cui si utilizza il volto di una persona senza che questa abbia dato il proprio consenso. Secondo Sensity, un’azienda che opera nel campo dell’AI, quasi il 96% di tutti i deepfake è di natura pornografica e mostra il volto di una donna senza che lei abbia dato alcun consenso. Sebbene molte piattaforme come Reddit abbiano, almeno sulla carta, delle policy atte a frenare la proliferazione dei deepfake, questi contenuti sono abbastanza facili da trovare online, con alcune community di Discord che vendono deepfake porno di “ragazze comuni” (quindi non celebrità) ad appena 5 dollari a botta, stando a un servizio di NBC News.

Ma, mentre le implicazioni etiche del porno deepfake sono piuttosto chiare, il pericolo potenziale rappresentato dal porno generato dall’AI con personaggi di fantasia è diverso, secondo quanto afferma Hany Farid, professore di informatica all’Università della California, Berkeley. «Penso che il porno deepfake dovrebbe essere illegale e che rappresenti un grosso problema. Quello, per certi versi, è un campo più facile in cui orientarsi», spiega. «Quest’altro è più complicato».

Anche se i contenuti per adulti come quelli di Claudia sono finti e inventati di sana pianta, è anche vero, però, che i miliardi di foto utilizzate per addestrare i modelli di AI sono di persone reali, la maggior parte delle quali probabilmente non ha mai dato il permesso di utilizzare la propria immagine in questo modo. Già questo, di per sé, solleva alcuni problemi etici, dice Farid, in quanto esiste la possibilità (seppur minima) che questi modelli di AI possano riproporre le immagini utilizzate per addestrarli. «Non credo che sia molto probabile e non credo che si verifichi spesso, ma potrebbe accadere che qualcuno carichi una foto su Facebook e che le sue sembianze finiscano in immagini per cui non ha dato il proprio consenso», afferma Farid. «Il fatto che potrebbe succedere è rilevante».

C’è anche il fatto che, anche se alcuni utenti di Reddit più esperti di questioni tecnologiche sono riusciti a identificare Claudia come una creazione dell’AI, lei non è descritta esplicitamente come tale: questo potrebbe creare problemi. I creatori di Claudia sostengono che l’onere di distinguere se una modella sia reale o finta dovrebbe spettare al consumatore: «Non sappiamo davvero cosa dire, ma chi compra le foto è contento perché sta cercando del porno», affermano. «Noi non abbiamo mai detto che si tratta di immagini di una persona reale e gli acquirenti non ce l’hanno mai chiesto. L’hanno solo dato per scontato».

Anche il nodo dell’autenticazione potrebbe rappresentare un problema per le piattaforme, che spesso ricorrono a processi di verifica elaborati per garantire che i creatori che si iscrivono non siano minorenni o persone sfruttate (ecco perché creatori di contenuti come Claudia vendono foto di nudi utilizzando la messaggistica diretta di Reddit, che non è sottoposta a controlli, e non su siti con policy più rigide). Anche se su OnlyFans ci sono già alcuni creatori umani che utilizzano l’intelligenza artificiale per migliorare i loro contenuti (come ad esempio HarperTheFox, che usa la tecnologia per generare nudi ispirati all’estetica cyberpunk), consentire a creatori non umani di accedere alla piattaforma potenzialmente potrebbe creare problemi non da poco, dice Ashley, una sex worker che si occupa di questioni inerenti alle piattaforme tecnologiche. «L’idea alla base di tutto questo procedimento di verifica è assicurarsi che nessuno venga sfruttato. Ma qui non c’è una persona, quindi nessuno può dare il consenso», dice, aggiungendo che piattaforme come OnlyFans probabilmente non permetteranno l’ingresso ai creatori di contenuti AI proprio per questo motivo (OnlyFans non ha risposto a una nostra richiesta di commentare a riguardo del tema).

Forse, in realtà, la domanda se i creatori di contenuti AI per adulti, in futuro, potranno soppiantare quelli tradizionali deriva da un fraintendimento fondamentale del fascino di siti web come OnlyFans, che si basano sull’idea che l’abbonato interagisca direttamente con una persona reale, dice Ashley. Quindi a suo avviso, nel breve periodo, la tecnologia che sta alla base dell’intelligenza artificiale non è ancora abbastanza avanzata da rappresentare una vera minaccia per il mercato della pornografia: «La percezione che si ha del fenomeno è ancora esagerata. Finora non ho visto nulla che indichi che l’AI sia in grado di generare un video che somigli a una persona che fa sesso».

Nel lungo periodo, però, anche se Ashley vede un mercato potenziale per l’arte erotica generata dall’intelligenza artificiale (per esempio quella legata all’immagine di personaggi dei cartoni animati molto amati), pensa che la domanda di contenuti che mostrano persone reali che fanno sesso ci sarà sempre: questo, semplicemente, perché l’autenticità costituisce un selling point potentissimo per qualunque tipo di prodotto, non solo per il porno. Lei prefigura un mondo in cui i contenuti per adulti con modelli in carne e ossa saranno molto più costosi, un po’ come accade ora per il caffè biologico equo e solidale o i maglioni fatti a mano.

«Non è raro che le cose vengano etichettate come “fatte su misura”, “fatte a mano”, in contrapposizione alla fast fashion e al fast food», dice Ashley. «Le persone sono disposte a pagare di più per i contenuti artigianali di qualsiasi tipo. Questo può diventare un punto di forza a livello di marketing».

Chi crea porno con l’intelligenza artificiale, però, pensa alla popolarità futura di modelli e modelle come Claudia non come a una semplice ipotesi, ma come a un fatto inevitabile. «Il porno creato dall’AI diventerà sempre più popolare», hanno dichiarato gli informatici che hanno ideato Claudia, nel loro ultimo messaggio inviato a Rolling Stone. «Ci saranno sempre più account come questo».

Questo articolo è stato tradotto da Rolling Stone USA.