Con i nuovi strumenti di intelligenza artificiale per computer, video falsi e notizie false sono già possibili e quello che vediamo oggi è solo un primo assaggio di ciò che sarà possibile in futuro. Qui abbiamo il primo caso d'uso concreto, perché qualcuno stava usando un algoritmo per inserendo il volto della star di "Wonder Woman" Gal Gadot in un video porno - ei risultati sono spaventosamente convincenti.
L'utente di Reddit Deepfakes allena le reti neurali sui volti delle celebrità, quindi inserisce le animazioni facciali in movimento nel porno reale utilizzando il rilevamento del volto - fintanto che interpreto correttamente i video, non li collego qui, puoi scoprirlo da solo. Il risultato è un autentico porno con protagonista la tua attrice preferita. Il porno finto tramite Photoshop è vecchio quanto Internet e realisticamente probabilmente vecchio quanto Photoshop stesso, solo che qui il processo è automatizzato e funzionerà su richiesta in futuro. Sebbene i programmatori di intelligenza artificiale dovrebbero installare meccanismi di sicurezza che dovrebbero impedire a un'intelligenza artificiale di "furto di identità", ci saranno anche hack e crack per questo. Il concetto non scomparirà e probabilmente non si fermerà nemmeno con le attrici. Benvenuti nel futuro.
Finora, deepfakes ha pubblicato video porno hardcore con i volti di Scarlett Johansson, Maisie Williams, Taylor Swift, Aubrey Plaza e Gal Gadot su Reddit. Ho contattato le società di gestione e / o gli addetti stampa che rappresentano ciascuno di questi attori informandoli dei video falsi e aggiornerò se avrò risposta. [...]
Secondo deepfakes - che ha rifiutato di darmi la sua identità per evitare il controllo pubblico - il software è basato su più librerie open source, come Keras con backend TensorFlow. Per compilare i volti delle celebrità, deepfakes ha affermato di aver utilizzato la ricerca di immagini di Google, foto stock e video di YouTube. Il deep learning consiste in reti di nodi interconnessi che eseguono autonomamente calcoli sui dati di input. In questo caso, ha addestrato l'algoritmo sui video porno e sul volto di Gal Gadot. Dopo una quantità sufficiente di questo "addestramento", i nodi si organizzano per completare un compito particolare, come manipolare in modo convincente i video al volo. Il ricercatore di intelligenza artificiale Alex Champandard mi ha detto in un'e-mail che una scheda grafica decente di livello consumer potrebbe elaborare questo effetto in poche ore, ma una CPU funzionerebbe altrettanto bene, solo più lentamente, nel corso dei giorni. [...]
"Ho appena trovato un modo intelligente per fare lo scambio di faccia", ha detto, riferendosi al suo algoritmo. "Con centinaia di immagini di volti, posso facilmente generare milioni di immagini distorte per addestrare la rete", ha detto. "Dopodiché, se nutro la rete con il volto di qualcun altro, la rete penserà che sia solo un'altra immagine distorta e cercherà di farla sembrare la faccia dell'addestramento".
In un thread di commenti su Reddit, deepfakes ha affermato che sta utilizzando un algoritmo simile a quello sviluppato dai ricercatori di Nvidia che utilizza il deep learning per, ad esempio, trasformare istantaneamente un video di una scena estiva in una invernale. I ricercatori di Nvidia che hanno sviluppato l'algoritmo hanno rifiutato di commentare questa possibile applicazione.