L'IA può generare un deepfake personalizzato di un video sui social media di una persona specifica che dice qualsiasi cosa ?

La proliferazione della tecnologia deepfake ha democratizzato la disinformazione, consentendo la creazione di falsificazioni video iperrealistiche. I sistemi di intelligenza artificiale possono ora generare contenuti falsi su misura, adattati alla voce, alle maniere e al contesto di un individuo. Questo mina la fiducia nei media digitali e consente molestie, ricatti e manipolazioni politiche. Le piattaforme faticano a rilevare e mitigare tali minacce su larga scala.

I sistemi attuali possono generare video “talking head” altamente realistici che sincronizzano il volto di una persona con una nuova voce e un nuovo copione, ma produrre un deepfake personalizzato che ritragga in modo convincente un individuo specifico che dice qualsiasi cosa richiede sia un’immagine o un breve video chiaro e di alta qualità del soggetto, sia un campione audio robusto che catturi i pattern vocali della persona. Tecniche come i modelli di diffusione (ad esempio, Stable Diffusion Video, Runway Gen-2) e i metodi basati su GAN (ad esempio, StyleGAN, DeepFaceLab) sono avanzate al punto da rendere possibili brevi clip con sincronizzazione labiale e movimenti facciali, tuttavia artefatti, discrepanze di illuminazione e incoerenze temporali rivelano ancora le origini sintetiche agli osservatori esperti. Quadri etici e legali, inclusi strumenti di rilevamento e standard di provenienza dei contenuti come C2PA, vengono sviluppati ma non impediscono del tutto l’uso improprio. L’IA generativa in questo settore continua a evolversi rapidamente, ponendo sfide costanti per la verifica e la fiducia.

— Arricchito 12 maggio 2026 · Fonte: U.S. Department of Commerce — https://ntia.doc.gov/files/ntia/publications/2022_commerce_deepfakes_report.pdf