Czy AI może wygenerować spersonalizowany deepfake wideo na media społecznościowe konkretnej osoby, która mówi cokolwiek ?

Rozprzestrzenianie się technologii deepfake zdemokratyzowało dezinformację, umożliwiając hiperrealistyczne fałszerstwa wideo. Systemy AI mogą obecnie tworzyć spersonalizowane fałszywe treści dostosowane do głosu, manieryzmów i kontekstu danej osoby. Podważa to zaufanie do mediów cyfrowych i umożliwia nękanie, szantaż oraz manipulację polityczną. Platformy mają trudności z wykrywaniem i łagodzeniem takich zagrożeń na dużą skalę.

Obecne systemy potrafią generować wysoce realistyczne filmy „głowa mówiąca”, które synchronizują twarz osoby z nowym głosem i tekstem, jednak stworzenie spersonalizowanego deepfake’a, który wiarygodnie przedstawia konkretną osobę mówiącą cokolwiek, wymaga zarówno wyraźnego, wysokiej jakości obrazu lub krótkiego nagrania wideo celu oraz solidnego próbki audio uchwytującej wzorce głosowe tej osoby. Techniki takie jak modele dyfuzyjne (np. Stable Diffusion Video, Runway Gen-2) i metody oparte na GAN (np. StyleGAN, DeepFaceLab) rozwinęły się do tego stopnia, że możliwe jest tworzenie krótkich klipów z synchronizacją ust i ruchami twarzy, jednak artefakty, niedopasowania oświetlenia i niespójności czasowe nadal zdradzają syntetyczne pochodzenie dla przeszkolonych obserwatorów. Ramy etyczne i prawne, w tym narzędzia wykrywające oraz standardy pochodzenia treści, takie jak C2PA, są opracowywane, ale nie zapobiegają całkowicie nadużyciom. Generatywna AI w tej dziedzinie wciąż szybko się rozwija, stwarzając ciągłe wyzwania dla weryfikacji i zaufania.

— Wzbogacono 12 maja 2026 · Źródło: U.S. Department of Commerce — https://ntia.doc.gov/files/ntia/publications/2022_commerce_deepfakes_report.pdf