Czy deepfake z apki Wombo AI wykończą autentyczność sieciowych filmów?

Mniej więcej tydzień temu w internecie zawrzało z powodu niepokojąco-realistycznych deepfake'ów Toma Cruise'a, które były w TikTok i innych serwisach społecznościowych. Teraz mamy nowego twórcę, który pokazuje nam, jak daleko zaszła technologia deepfake'ów i jakie konsekwencje może nieść za sobą.

W tym przypadku technologia deepfaków została wykorzystana w celu uzyskania efektu komediowego. Ta aplikacja do deepfake'ów to Wombo AI. Za jej pomocą mając zdjęcie osoby można umieścić ją w akcji klipu wideo. Aplikacja synchronizuje ruch warg za pomocą sztucznej inteligencji. Przykładem może być film z Kim Jong-un. Jego zdjęcie zostało przepuszczone przez system Wombo, aby stworzyć bardzo realistyczny klip wideo. Aplikacja została stworzona do tworzenia zabawnych filmików, ale pokazuje również potęgę tej technologii jeżeli wpadnie w niepowołane ręce. Aplikacja została pobrana ponad 2 miliony razy z Apple App Store oraz Google Play Store.

Jak wyjaśnia nam Benkhin, w niedawnym wywiadzie, klipy wyprodukowane przez jego aplikacje wyglądają bardzo ,,realistycznie'', ale nie są ,,prawdziwe''. Klip z Kim Jong-un śpiewający przebój disco wygląda całkiem nieźle. Dzięki sztucznej inteligencji, która była używana do tworzenia mimiki twarzy, na którą nakłada się twarz dyktatora.

Aplikacja jest w stanie działać na wszystkim co przypomina twarz, w tym postacie z gier wideo, tj: Fallout: New Vegas i League of Legends.

Miejmy nadzieję że przywódca Korei Północnej nie poczuje się pokrzywdzony i oszukany. Eksperci ds. Bezpieczeństwa są coraz bardziej zaniepokojeni konsekwencjami deepfake'ów. Henry Farid , profesor z University of California-Berkeley, powiedział w niedawnym wywiadzie, że można użyć tego rodzaju technologii do stworzenia fałszywego filmu, na którym, CEO Amazon Jeff Bezos, wypowiada się negatywnie o zyskach Amazon i obserwuje kurs akcji. Film stałby się bardzo popularny, zanim ludzie zorientowaliby się, że jest fałszywy.

Najbardziej pamiętliwe deepfake: Bezos jako kosmita Star Trek z ogromną głową, Twarz Billa Hadera zmieniająca się w Toma Cruise'a i Sylvester Stallone w roli Kevina samego w domu.

Podsumowując, nasuwają się dwie uwagi. Pierwsza: zobaczenie czegoś nie powinno sprawić że w to uwierzymy, przynajmniej nie automatycznie. Po drugie: przyszłość będzie co najmniej dziwna.