Pornhub ha pubblicato a fine anno la classifica annuale delle ricerche effettuate dagli utenti sul sito. In cima alla lista delle ricerche, negli ultimi due anni, compaiono nomi di personaggi pubblici, soprattutto show girls come Belen o Diletta Leotta, che nulla hanno a che vedere con l’industria del porno. Eppure sulla piattaforma sono presenti numerosi video che ritraggono e hanno come protagoniste le stesse e altre celebrità (Katy Perry, Gal Gadot ed Emma Watson tra le più cercate). Questi video porno in realtà mai girati, sono frutto del fenomeno “deepfake”, esploso negli ultimi anni in ambito pornografico ma anche politico e sociale.
I deepfake
Il deepfake è il termine che viene utilizzato per definire contenuti audio e soprattutto video verosimili alla realtà, realizzati tramite intelligenza artificiale. Alla base di questa tecnica ci sono due algoritmi GAN (generative adversarial networks) che lavorano in stretta collaborazione tra loro. Il primo algoritmo genera le immagini realistiche, il secondo le giudica permettendo di scartare quelle non abbastanza verosimili e migliorare la qualità del risultato finale.
Il sistema apprende e riparte da capo in una sorta di gara in cui a sua volta il generatore deve migliorarsi di continuo per poter ingannare il suo avversario e vincere. Si tratta di algoritmi di machine learning in grado di auto apprendere e migliorarsi a velocità notevoli. All’interno del termine, utilizzato per la prima volta nel 2017 da un utente di Reddit, è presente infatti il riferimento a questa procedura di apprendimento, “deep Learning“, unita alla parola “fakes”, falsi infatti sono i prodotti creati.
I programmi di intelligenza artificiale che permettono di creare questi contenuti, se un paio di anni fa erano appannaggio esclusivo di software complessi, ultimamente sono diffusi attraverso molte applicazioni anche per smartphone che permettono di crearli. L’utilizzo così accessibile ha infatti dato il via ad una serie di contenuti creati a livello personale e amatoriale legati al fenomeno del revenge porn. Non solo più grandi attrici o celebrità che compaiono in video porno mai realizzati e molto verosimili ma anche individui sconosciuti, ex partner o conoscenti alle cui foto o video viene applicata questa tecnica per realizzare contenuti che poi vengono diffusi su varie piattaforme.
Il deepfake usato per revenge porn
Il fenomeno del revenge porn, ovvero il ricatto o anche la pubblicazione in rete di immagini e video intimi senza il consenso di chi ne è protagonista, è largamente amplificato dalla tecnica del deepfake. E infatti il tema del consenso è proprio il problema principale a cui sono esposti i protagonisti di questi video. Che si tratti di personaggi pubblici o meno, la mancanza del consenso dietro la diffusione o creazione di contenuti lede numerosi diritti della persona arrivando a generare numerose violazioni e reati.
Dal 2019 il revenge porn è reato in Italia, sul filone europeo di Stati come la Francia, Germania e Regno Unito che lo vedono regolamentato dal 2015 in poi. A livello globale le Filippine sono il primo stato a dotarsi di una legge anti revenge porn nel 2009. Negli USA la regolamentazione del fenomeno appartiene ai singoli Stati e 41 di essi ne possiedono una in materia.
Le leggi in questione, per quanto riguarda il contenuto e le sanzioni, presentano parecchie somiglianze. In quella italiana la pena prevista va da 1 a 6 anni di carcere per chi produce e diffonde il materiale. Uguale condanna anche a chi lo riceve e lo invia a sua volta ad altri con l’intento di procurare nocumento alla persona. È inoltre previsto un aumento di sanzione se le persone in questione sono legate da precedenti rapporti relazionali.
La perseguibilità anche contro i siti porno
Le stesse leggi si applicano oltre che ad individui personali, a piattaforme o community che veicolano questi contenuti. La piattaforma Pornhub era entrata nel mirino di numerose inchieste per non essersi attivata tempestivamente alla rimozione di contenuti privi di consenso e per non aver fornito indicazioni su come stesse effettivamente monitorando il proliferare di questo tipo di contenuti largamente disponibili sulla piattaforma. In una nota pubblicata da The Verge nel 2018, Pornhub affermava di voler procedere all’eliminazione dei contenuti ma la testata BuzzFeed aveva più volte fatto presente il problema e segnalato che a pochi mesi da quello che avrebbe dovuto essere un intervento netto, nel concreto i materiali erano ancora disponibili in rete.
La piattaforma avrebbe poi risposto con una nota del presidente Corey Price, riportata da Wired: “I contenuti contrassegnati su Pornhub che violano direttamente i nostri Termini di servizio vengono rimossi non appena ne veniamo a conoscenza, inclusi contenuti non consensuali. Per garantire ulteriormente la sicurezza di tutti i nostri fan, abbiamo ufficialmente preso una dura posizione contro il revenge porn, che riteniamo sia una forma di violenza sessuale, e abbiamo introdotto un modulo di presentazione per la facile rimozione di contenuti non consensuali”.
Attualmente però, a distanza di un paio di anni, sono ancora numerose le petizioni promosse nei confronti di Pornhub perché si adatti alla legislazione, invitandola a compiere un maggiore sforzo per impedire che materiali simili finiscano sulla piattaforma e per accelerare i tempi di rimozione degli stessi una volta segnalati.
Quale futuro possibile?
I tempi di intervento così lunghi e le numerose sollecitazioni sono indice del fatto che in campo tecnologico la legislazione abbia ancora numerosa strada da percorrere. Fondamentali i passi in avanti mossi negli ultimi anni ma ancora troppo spesso sottovalutati in virtù dell’idea che l’ambito digitale sia zona franca. È un ambito delicato in cui è quanto più necessario un processo di confronto e rieducazione che parta direttamente dalla società e alla stessa sia indirizzata. Una sensibilizzazione all’uso consapevole, un approccio e un’informazione che possano far rendere conto che le discriminazioni celate dagli algoritmi dell’intelligenza artificiale sono reali.
