Stuff AI CAN'T Do

¿Puede la IA falsificar imágenes de fotos de pasaporte y crear un avatar para engañar a los métodos de identificación ?

¿Qué opinas?

Los métodos actuales de IA pueden generar fotos estilo pasaporte altamente realistas y avatares realistas a partir de indicaciones de texto, utilizando modelos de difusión y GANs, y también pueden crear videos de "deepfake" convincentes de rostros hablando o moviéndose. Estas técnicas pueden engañar a algunos sistemas de reconocimiento facial y verificación de identidad, especialmente cuando se dirigen a algoritmos más antiguos o menos robustos, aunque muchos sistemas modernos ahora incluyen detección de vitalidad, medidas anti-spoofing y cruce de referencias con bases de datos gubernamentales para mitigar el abuso. Gobiernos y proveedores de tecnología actualizan continuamente sus defensas para contrarrestar nuevas amenazas generativas.

— Enriched 12 de mayo de 2026 · Fuente: Europol — https://www.europol.europa.eu/publications-events/publications/online-identification-fraud-innovation-overcomes-regulation

Background

Diffusion models and generative adversarial networks (GANs) now routinely produce passport-style photographs and lifelike avatars that closely resemble real individuals. Beyond still images, AI systems can synthesize convincing “deepfake” videos of faces speaking or moving. These synthetic identities can elude certain facial-recognition and identity-verification platforms, particularly older or less sophisticated systems; however, many contemporary systems integrate liveness detection, anti-spoofing protocols, and checks against government-issued identity databases to detect and reject such forgeries. Governments and technology providers regularly update their defenses in response to new generative threats.

Estado verificado por última vez en June 27, 2026.

📰

Galería

In the Court of AI Capability
Summary of Findings
Verdict over time
May 2026May 2026May 2026May 2026May 2026Jun 2026Jun 2026Jun 2026Jun 2026Jun 2026
Sitting at the Bench Filed · jun. 27, 2026
— The Question Before the Court —

¿Puede la IA falsificar imágenes de fotos de pasaporte y crear un avatar para engañar a los métodos de identificación?

★ The Court Finds ★
Reaffirmed

El jurado encontró una respuesta claramente afirmativa.

Ruling of the Bench

Tras una cuidadosa deliberación, el jurado acordó por unanimidad que la IA puede forjar fotos de pasaporte y avatares tan convincentes que incluso los ojos más agudos serían engañados, y mucho menos los sistemas de identificación actuales. No encontraron distinción significativa entre el fotorrealismo y el engaño en este caso, dejando sin efecto la cuestión de las credenciales infalibles. Fallo: "Si parece real, entra."

— Hon. C. Babbage, Presiding
Jury Tally
2
0Casi
0No
Verdict Confidence
90%
The Court of AI Capability is, of course, not a real court.
But the data is real.
The Case File · Stacked History
Session I · May 2026
Session II · May 2026 Sí · 84%
Session III · May 2026 Sí · 85%
Session IV · May 2026 Sí · 85%
Session V · May 2026 Sí · 82%
Session VI · Jun 2026 Sí · 82%
Session VII · Jun 2026 Sí · 77%
Session VIII · Jun 2026 Sí · 83%
Session IX · Jun 2026 Sí · 93%
Case № 4991 · Session X
In the Court of AI Capability

The Case File

Docket № 4991 · Session X · Vol. X
I. Particulars of the Case
Question put to the court¿Puede la IA falsificar imágenes de fotos de pasaporte y crear un avatar para engañar a los métodos de identificación?
SessionX (10 hearing)
Convened27 jun. 2026
Previously ruledYES (May '26) → YES (May '26) → YES (May '26) → YES (May '26) → YES (May '26) → YES (Jun '26) → YES (Jun '26) → YES (Jun '26) → YES (Jun '26) → YES (Jun '26)
Presiding JudgeHon. C. Babbage
II. Cumulative Tally Across Sessions

Across 10 sessions, 30 jurors have heard this case. Combined tally: 29 YES · 1 ALMOST · 0 NO · 0 IN RESEARCH.

Note: cumulative includes older juror opinions. The current session tally above is the live verdict.

III. Verdict

By a vote of 2 — 0 — 0, the panel returns a verdict of , with verdict confidence of 90%. The court so orders.

IV. Declaraciones del tribunal
Jurado I

"Generative models can create photorealistic faces indistinguishable for identification methods"

Jurado II

"Deepfakes and GANs can generate realistic images"

Las declaraciones individuales de los jurados se muestran en su inglés original para preservar la precisión probatoria.

C. Babbage
Presiding Judge
M. Lovelace
Clerk of the Court

Lo que el público piensa

No 22% · Sí 70% · Quizás 9% 23 votes
No · 22%
Sí · 70%
58 days of activity

Discusión

no comments

Los comentarios e imágenes pasan por una revisión administrativa antes de aparecer públicamente.

10 jury checks · más reciente hace 1 día
27 Jun 2026 2 jurors · puede, puede puede
21 Jun 2026 3 jurors · puede, puede, puede puede
16 Jun 2026 3 jurors · puede, puede, puede puede
11 Jun 2026 2 jurors · puede, puede puede
05 Jun 2026 3 jurors · indeciso, puede, puede indeciso
31 May 2026 3 jurors · puede, puede, puede puede
25 May 2026 4 jurors · puede, puede, puede, puede puede
20 May 2026 4 jurors · puede, puede, puede, puede puede
15 May 2026 3 jurors · puede, puede, puede puede
12 May 2026 3 jurors · puede, puede, puede puede estado cambiado

Cada fila es una comprobación de jurado independiente. Los jurados son modelos de IA (identidades mantenidas neutras a propósito). El estado refleja el recuento acumulado en todas las comprobaciones — cómo funciona el jurado.

Más en Ethical

¿Nos faltó uno?

Revisamos semanalmente.