Deepfakes: Yabancıları pornoya bağlamak ve Hitler taklitleri yaratmak için sinir ağları nasıl kullanılır?

Bunun için gerekli tüm araçlar herkese açıktır ve amatörler için bile kullanımı kolaydır. Her türden film sahnesi manipüle edilebilir ve oyuncuların yüzleri değiştirilebilir. Bir Reddit kullanıcısı, 200 milyon dolarlık bir bütçe olmadan Rogue One'dan Leia sahnesini yeniden yaratmak için kullandı. Teknolojinin ciddi sonuçları olabilir.

İki ay önce tek bir Redditor, Gal Gadot ve diğer yıldız ve yıldızların aldatıcı bir şekilde gerçek porno taklitleriyle ortalığı karıştırdıktan sonra, Reddit'te bütün bir sahne ortaya çıktı. alt dizin r/deepfake'ler şu anda 38'den fazla üyesi var ve bunların çoğu yapay zeka yardımıyla mevcut bir filme rastgele yüzler ekleyerek pornoları kendileri manipüle ediyor. Tek ihtiyaçları olan, şüphelenmeyen hedeflerinin yeterli resimleri ve halka açık birkaç araç. Bir Redditor, yeni başlayanların bile AI destekli porno oluşturmak için kullanabileceği bir uygulama bile yaptı.

Redditor deepfakeapp sözde geliştirdi FakeApp, eine benutzerfreundliche Anwendung, mit der jeder Pornos manipulieren kann. «Ich halte die aktuelle Version der App für einen guten Ausgangspunkt, aber ich hoffe, dass ich sie in den kommenden Tagen und Monaten noch weiter verbessern kann», sagte er. «Ich möchte erreichen, dass Nutzer einfach ein Video von ihrem Computer auswählen, ein neuronales Netzwerk runterladen, das mit einem bestimmten Bilderdatensatz aus einem öffentlichen Archiv gefüttert wird und das Gesicht im Video dann mit einem Knopfdruck austauschen können.»

Redditor UnobtrusiveBot hat das Gesicht von Jessica Alba beispielsweise mithilfe der FakeApp auf den Körper von Pornodarstellerin Melanie Rios platziert. «Ging super schnell – ich lerne gerade, wie ich das Modell neu trainieren kann. Es hat etwa fünf Stunden gedauert – nicht schlecht für das Ergebnis», schrieb er in einem Kommentar. Auch Redditor nuttynutter6969 nutzte die FakeApp um die Star-Wars-Darstellerin Daisy Ridley zum unfreiwilligen Pornostar werden zu lassen.

r/deepfakes'teki gönderilerin çoğu doğası gereği pornografiktir, ancak bazı kullanıcılar, yalnızca doğru ham verilere sahipseniz teknolojinin gerçekten sınırsız olduğunu kanıtlayan videolar da oluşturur. Örneğin, Redditor Z3ROCOOL22, Hitler'in görüntülerini Arjantin Devlet Başkanı Mauricio Macri ile birleştirdi. Gürültülü Deepfakeapp FakeApp'i indiren ve hedefinin bir veya iki yüksek kaliteli videosuna sahip olan herkes gerçekçi filmler oluşturabilir.

Adolf Hitler'den Mauricio Macri'ye "Çöküş Filmi". (Yüz değiştirme derin öğrenme)

Tek ihtiyacınız olan CUDA destekli iyi bir grafik işlemcisi. Doğru işlemciye sahip olmayan kullanıcılar, Google Cloud Platform gibi bulut tabanlı hizmetleri de kullanabilirler. Veri çıkarmadan dönüştürmeye, tam yüz takasına kadar tüm sürecin, doğru yapılırsa yaklaşık sekiz ila XNUMX saat sürdüğü söyleniyor. Bazı kullanıcılar, çok daha uzun sürdüğünü ve bazen feci sonuçlar verdiğini bildiriyor.

deepfakeapp özellikle başarılı bir örnek veriyor Derpfake kullanıcısının videosu, der einen FaceSwap von Prinzessin Leia aus Rogue One erstellt hat. «Oben sieht man das Original aus Rogue One mit einer seltsamen computeranimierten Carrie Fisher. Budget für den Film: 200 Millionen Dollar», derpfake videosunu anlatıyor. «Unten ist die 20-minütige Manipulation, die man auch mit einer Schauspielerin hätte erstellen können, die Carrie Fisher ähnlich sieht. Mein Budget: 0 Dollar und ein paar Alben von Fleetwood Mac.» Statt das Gesicht von Prinzessin Leia kostspielig am Computer zu animieren, hatte derpfake die Software mit echten Aufnahmen der jungen Carrie Fisher gefüttert und in die Filmszenen eingefügt.

Herkesin gerçek videoları taklit etmesini bu kadar kolaylaştıran ve bu kadar hızlı gelişen bir teknolojinin ciddi yansımaları olabilir. Çünkü hayal gücünün sınırı yoktur: İntikam pornosu, yıldızların manipüle edilmiş kayıtları veya siyasi konuşmalar olsun, gerekli ham veriler ve birkaç açık kaynaklı araçla herhangi bir kayıt sahte olabilir. Yakında teknoloji o kadar iyi olacak ki gerçek bir video ile yapay zeka tarafından oluşturulan bir sahte arasındaki farkı anlamamız imkansız olacak. Bugün bile insanlar gerçek ile yalan haber arasında ayrım yapmakta giderek zorlanıyor ve her türlü haber sosyal medya aracılığıyla yıldırım hızıyla yayılıyor. Yeni olan, teknik araçların artık herkesin kullanımına açık olmasıdır. Bu, tüm güven ve inanılırlık ilkesinin temelini oluşturur. Muhtemelen bu tür sahte videoların giderek daha iyi hale geldiği ve dolayısıyla tanınmasının daha da zorlaştığı bir dünyaya alışmamız gerekecek. İlgili kişilerin kişilik haklarıyla ilgili ihtilaflar dahil. Gelecekte, bu tür sahte bilgiler, propaganda veya kasıtlı olarak yanıltıcı haberler için bir temel olarak kullanılabilir.