Le “deepfakes” sono il risultato della generazione di immagini, audio e video creati dall’intelligenza artificiale. Il processo ha luogo partendo da un contenuto originale che viene modificato ottenendo un risultato estremamente realistico. L’alterazione avviene sia a livello sonoro o vocale che visivo consentendo frodi di ogni genere come disinformazione politica, diffusione di false informazioni, scambi di identità.
I deepfakes di tipo sessuale sono altrettanto diffusi e via via più sofisticati sotto il profilo tecnologico, costituendo una reale pericolosità per donne e minori che rappresentano il bersaglio più comune. Esistono numerosissimi generatori di deepfake e nei casi più comuni consentono di convertire anche una sola foto della vittima in un video molto esplicito di pochi secondi ove compaiono situazioni sessuali molto esplicite e molto realistiche. Per attrarre i possibili utenti le funzionalità di base hanno costi molto contenuti e questo consente una enorme proliferazione di video assolutamente falsi. Nel momento in cui di inizia il processo di generazione di un deepfake, il sito sottolinea il fatto che si possono caricare foto per le quali si ha il consenso per poterle trasformare con l’intelligenza artificiale ma, molto probabilmente, non esistono veri controlli affinché questa limitazione venga rispettata.
I chatbot di generazione vengono costantemente aggiornati, vengono aggiunte funzionalità per arricchire la “messa a nudo” di soggetti in pose sempre più numerose, in ambiti e scenari qualitativamente più dettagliati e fantastici, simulando incontri fra persone che non si sono mai conosciute e gravidanze impossibili.
Il mercato dei deepfake è in costante crescita e alcuni fra i principali siti web generatori di contenuti non consensuali hanno addirittura sviluppato ulteriore tecnologia per offrire i servizi come fornitori ad altre piattaforme. Vengono sviluppate API attraverso le quali la generazione di deepfake viene consentita ad aziende terze che non avrebbero direttamente la capacità tecnica di offrire ai loro utenti creazione di immagini e video false.
Da una decina di anni sono presenti in rete deepfake a sfondo sessuale. Un tempo la generazione di immagini non consensuali richiedevano elevate competenze tecniche ma, come per ogni altro campo dell’intelligenza artificiale, i progressi diffusi nei sistemi di intelligenza artificiale generativa degli ultimi tre anni, inclusa la disponibilità di sofisticati generatori di foto e video open source, hanno reso la tecnologia più accessibile, più realistica e più facile da usare.
Se video deepfake di politici e di conflitti in tutto il mondo sono stati creati per diffondere disinformazione e notizie false, quelli a sfondo sessuale hanno causato danni ingenti a donne, ragazze e minori senza che le leggi a tutela di queste persone siano state implementate rapidamente.
