Wszystkie niezbędne do tego narzędzia są ogólnodostępne i łatwe w obsłudze nawet dla amatorów. Można manipulować wszelkiego rodzaju scenami filmowymi i zamieniać twarze aktorów. Użytkownik Reddita odtworzył scenę Lei z Łotra 200 bez budżetu wynoszącego XNUMX milionów dolarów. Technologia może mieć poważne konsekwencje.
Po tym, jak dwa miesiące temu pojedynczy Redditor wywołał zamieszanie swoimi zwodniczo prawdziwymi podróbkami porno przedstawiającymi Gal Gadot oraz inne gwiazdy i gwiazdeczki, na Reddicie pojawiła się cała scena. Subreddit r/deepfakes liczy obecnie ponad 38 000 członków, z których wielu samodzielnie manipuluje pornografią, dodając dowolne twarze do istniejącego filmu za pomocą sztucznej inteligencji. Wszystko, czego potrzebują, to wystarczająca ilość zdjęć niczego niepodejrzewającego celu i kilka publicznie dostępnych narzędzi. Jeden z Redditorów stworzył nawet aplikację, za pomocą której nawet początkujący mogą tworzyć filmy porno oparte na sztucznej inteligencji.
Deepfakeapp na Redditorze opracował tzw Fałszywa aplikacja, łatwa w użyciu aplikacja, która pozwala każdemu manipulować pornografią. „Myślę, że obecna wersja aplikacji to dobry punkt wyjścia, ale mam nadzieję, że w nadchodzących dniach i miesiącach będę ją jeszcze ulepszać” – powiedział. „Chcę, aby użytkownicy mogli po prostu wybrać wideo ze swojego komputera, pobrać sieć neuronową, która jest zasilana określonym zestawem zdjęć z publicznego archiwum, a następnie zamienić twarz na wideo za naciśnięciem przycisku”.
Na przykład Redditor UnobtrusiveBot umieścił twarz Jessiki Alby na ciele aktorki porno Melanie Rios za pomocą FakeApp. «Było super szybko — dopiero uczę się, jak przeszkolić model. Zajęło to około pięciu godzin – nieźle jak na wynik” – napisał w komentarzu. Redditor nuttynutter6969 również użył FakeApp, aby zmienić aktorkę Gwiezdnych Wojen, Daisy Ridley, w mimowolną gwiazdę porno.
Większość postów na r/deepfakes ma charakter pornograficzny, ale niektórzy użytkownicy tworzą także filmy udowadniające, że technologia tak naprawdę nie ma ograniczeń, jeśli tylko dysponuje się odpowiednimi, surowymi danymi. Na przykład Redditor Z3ROCOOL22 połączył materiał filmowy Hitlera z prezydentem Argentyny Mauricio Macrim. Głośny aplikacja deepfake Każdy, kto pobierze FakeApp i ma jeden lub dwa wysokiej jakości filmy przedstawiające swój cel, może tworzyć realistyczne filmy.
Wystarczy dobry procesor graficzny ze wsparciem CUDA. Użytkownicy, którzy nie mają odpowiedniego procesora, mogą także korzystać z usług opartych na chmurze, takich jak Google Cloud Platform. Cały proces, od wyodrębnienia danych, przez konwersję, aż po zamianę całej twarzy, podobno zajmuje około ośmiu do dwunastu godzin, jeśli zostanie wykonany prawidłowo. Niektórzy użytkownicy zgłaszają, że zajęło im to znacznie więcej czasu – czasami z katastrofalnymi skutkami.
Deepfakeapp przytacza szczególnie udany przykład Film od użytkownika derpfakektóry stworzył FaceSwap księżniczki Lei z Łotra 200. „Powyżej znajduje się oryginał Łotra XNUMX z dziwną, animowaną komputerowo Carrie Fisher. Budżet filmu: XNUMX milionów dolarów», opisuje derpfake w swoim filmie. „Poniżej znajduje się 20-minutowa manipulacja, której można było dokonać z aktorką, która wygląda jak Carrie Fisher. Mój budżet: 0 dolarów i kilka albumów Fleetwood Mac”. Zamiast animować twarz księżniczki Lei dużym kosztem na komputerze, derpfake wprowadził do oprogramowania prawdziwe ujęcia młodej Carrie Fisher i umieścił je w scenach filmowych.
Technologia, która pozwala każdemu z łatwością fałszować prawdziwe filmy, a która rozwija się tak szybko, może mieć poważne konsekwencje. Twoja wyobraźnia nie ma granic: niezależnie od tego, czy jest to porno z zemstą, zmanipulowane nagrania gwiazd czy przemówienia polityczne, przy niezbędnych surowych danych i kilku narzędziach open source każde nagranie można sfałszować. Wkrótce technologia będzie tak dobra, że nie będziemy w stanie odróżnić prawdziwego filmu od podróbki wygenerowanej przez sztuczną inteligencję. Ludziom już teraz coraz trudniej jest odróżnić prawdę od fałszywych wiadomości, a wszelkiego rodzaju wiadomości szybko rozprzestrzeniają się za pośrednictwem mediów społecznościowych. Nowością jest to, że środki techniczne są teraz dostępne dla każdego. Na tym opiera się cała zasada zaufania i wiarygodności. Prawdopodobnie będziemy musieli przyzwyczaić się do świata, w którym tego typu podróbki wideo są coraz lepsze i przez to trudniejsze do wykrycia. W tym związane z nimi konflikty z prawami osobistymi osób, których dotyczą. W przyszłości takie podróbki mogą zostać wykorzystane jako podstawa propagandy lub celowo wprowadzających w błąd wiadomości.