Může umělá inteligence vygenerovat na míru vytvořené deepfake video na sociálních sítích, kde konkrétní osoba řekne cokoliv ?

Šíření technologie deepfake demokratizovalo šíření dezinformací a umožňuje vytvářet hyperrealistické video podvrhy. AI systémy nyní dokážou vytvářet šité na míru padělaný obsah přizpůsobený hlasu, chování a kontextu konkrétní osoby. To podkopává důvěru v digitální média a umožňuje obtěžování, vydírání a politickou manipulaci. Platformy mají potíže s detekcí a zmírňováním těchto hrozeb ve velkém měřítku.

Současné systémy dokážou generovat vysoce realistická „mluvící hlava“ videa, která synchronizují tvář osoby s novým hlasem a scénářem, avšak vytvoření vlastního deepfake, který přesvědčivě zobrazuje konkrétní osobu, jak říká cokoli, vyžaduje jak jasný, kvalitní obraz či krátké video cílové osoby, tak robustní audio vzorek zachycující její hlasové vzorce. Techniky jako modely difuze (např. Stable Diffusion Video, Runway Gen-2) a metody založené na GAN (např. StyleGAN, DeepFaceLab) pokročily do bodu, kdy je možné vytvářet krátké klipy s pohyby rtů a obličeje, přesto artefakty, nesrovnalosti v osvětlení a časové nekonzistence stále prozrazují syntetický původ pro vyškolené pozorovatele. Etické a právní rámce, včetně nástrojů pro detekci a standardů pro původ obsahu jako C2PA, se vyvíjejí, ale zatím zcela nezabrání zneužití. Generativní AI v této oblasti se nadále rychle vyvíjí a představuje trvalé výzvy pro ověřování a důvěryhodnost.

— Vylepšeno 12. května 2026 · Zdroj: Ministerstvo obchodu USA — https://ntia.doc.gov/files/ntia/publications/2022_commerce_deepfakes_report.pdf