AI-Generated Fake Celebrity-Porn Is Here And We’re all Fucked

Mit den neuen AI-Tools für Computer sind bereits Fake-Videos und Fake-News möglich und was wir heute zu sehen bekommen, ist nur ein erster Vorgeschmack darauf, was in Zukunft möglich sein wird. Hier haben wir den ersten konkreten Anwendungsfall, denn jemand benutzte einen Algorithmus, um das Gesicht von «Wonder Woman»-Star Gal Gadot in ein Porno-Video einzufügen – und die Resultate sind erschreckend überzeugend.

Reddit-User Deepfakes trainiert Neural Networks auf die Gesichter von Promis, die bewegten Gesichts-Animationen fügt er dann per Face-Detection in reale Pornos ein – sofern ich die Videos richtig interpretiere, ich verlinke die hier nicht, findet ihr selber. Das Ergebnis sind authentische Pornos mit deiner Lieblingsschauspielerin. Fake-Porn per Photoshop ist zwar ungefähr so alt wie das Internet und realistisch gesehen wahrscheinlich so alt wie Photoshop selbst, nur wird der Prozess hier automatisiert und funktioniert in Zukunft auf Ansage. Zwar dürften AI-Coder Sicherheitsmechanismen einbauen, die eine AI an «Identitätsklau» hindern dürften, aber auch dafür wird es dann Hacks und Cracks geben. Das Konzept wird nicht mehr weggehen und es wird wohl auch nicht bei Schauspielerinnen aufhören. Welcome to the Future.

So far, deepfakes has posted hardcore porn videos featuring the faces of Scarlett Johansson, Maisie Williams, Taylor Swift, Aubrey Plaza, and Gal Gadot on Reddit. I’ve reached out to the management companies and/or publicists who represent each of these actors informing them of the fake videos, and will update if I hear back. […]

According to deepfakes — who declined to give his identity to me to avoid public scrutiny — the software is based on multiple open-source libraries, like Keras with TensorFlow backend. To compile the celebrities’ faces, deepfakes said he used Google image search, stock photos, and YouTube videos. Deep learning consists of networks of interconnected nodes that autonomously run computations on input data. In this case, he trained the algorithm on porn videos and Gal Gadot’s face. After enough of this “training,” the nodes arrange themselves to complete a particular task, like convincingly manipulating video on the fly. Artificial intelligence researcher Alex Champandard told me in an email that a decent, consumer-grade graphics card could process this effect in hours, but a CPU would work just as well, only more slowly, over days. […]

“I just found a clever way to do face-swap,” he said, referring to his algorithm. “With hundreds of face images, I can easily generate millions of distorted images to train the network,” he said. “After that if I feed the network someone else’s face, the network will think it’s just another distorted image and try to make it look like the training face.”

In a comment thread on Reddit, deepfakes mentioned that he is using an algorithm similar to one developed by Nvidia researchers that uses deep learning to, for example, instantly turn a video of a summer scene into a winter one. The Nvidia researchers who developed the algorithm declined to comment on this possible application.