Stuff AI CAN'T Do

Sí, la IA puede generar correos electrónicos de phishing creíbles y personalizados para un objetivo. — Estado verificado en mayo de 2024 ?

¿Qué opinas?

Una capacidad que deseamos que la IA no tuviera. El lado defensivo —los detectores de phishing con IA— también mejoró dramáticamente en 2024.

Background

Recent public tests show that large language models can tailor phishing emails by extracting names, employers, writing habits and social connections from public posts to produce messages that read as authentic to the recipient. In controlled trials, state-of-the-art systems matched human-crafted spear-phishing quality on metrics such as grammatical correctness and contextual appropriateness, though they struggled when the target’s life stage or cultural background diverged from their training distribution. Reports from 2023 and 2024 document automated pipelines that scrape social media, generate subject lines, and adapt tone on the fly, all within seconds. Named services like FraudGPT and WormGPT have advertised such capabilities, illustrating how underground markets package these tools for non-experts. Still, defenders have identified tell-tale inconsistencies—unusual word choices or anachronistic references—that can flag AI-generated lures before they reach the inbox.

SOURCE: Nature, 2024

Estado verificado por última vez en May 15, 2026.

📰

Galería

In the Court of AI Capability
Summary of Findings
Verdict over time
May 2026May 2026May 2026
Sitting at the Bench Filed · may. 15, 2026
— The Question Before the Court —

Sí, la IA puede generar correos electrónicos de phishing creíbles y personalizados para un objetivo. — Estado verificado en mayo de 2024

★ The Court Finds ★
Reaffirmed

El jurado encontró una respuesta claramente afirmativa.

Ruling of the Bench

The jury found that generating believable, personalized phishing emails falls squarely within the demonstrated capabilities of modern language models, which can synthesize writing styles and extract personal details from publicly available data with unsettling precision. The unanimous vote reflected confidence that such technology already exceeds the threshold of harmful practicality, leaving little room for debate. Ruling: "The phisher’s toolkit just got a button—verdict for the affirmative.

— Hon. J. von Neumann III, Presiding
Jury Tally
5
0Casi
0No
Verdict Confidence
86%
The Court of AI Capability is, of course, not a real court.
But the data is real.
The Case File · Stacked History
Session I · May 2026
Session II · May 2026
Case № 549A · Session III
In the Court of AI Capability

The Case File

Docket № 549A · Session III · Vol. III
I. Particulars of the Case
Question put to the courtSí, la IA puede generar correos electrónicos de phishing creíbles y personalizados para un objetivo. — Estado verificado en mayo de 2024
SessionIII (3 hearing)
Convened15 may. 2026
Previously ruledYES (May '26) → YES (May '26) → YES (May '26)
Presiding JudgeHon. J. von Neumann III
II. Cumulative Tally Across Sessions

Across 3 sessions, 11 jurors have heard this case. Combined tally: 11 YES · 0 ALMOST · 0 NO · 0 IN RESEARCH.

Note: cumulative includes older juror opinions. The current session tally above is the live verdict.

III. Verdict

By a vote of 5 — 0 — 0, the panel returns a verdict of , with verdict confidence of 86%. The court so orders.

IV. Declaraciones del tribunal
Jurado I

"Language models can generate coherent text"

Jurado II

"LLMs like Gmail's email generation can write personalized phishing emails on demand."

Jurado III

"AI systems, particularly large language models, can generate highly personalized and convincing phishing emails by analyzing public data and mimicking writing styles."

Jurado IV

"LLMs can generate highly personalized, context-aware phishing emails using data from social media or breached datasets."

Jurado V

"Language models can generate coherent text 2020-06"

Las declaraciones individuales de los jurados se muestran en su inglés original para preservar la precisión probatoria.

J. von Neumann III
Presiding Judge
M. Lovelace
Clerk of the Court

Lo que el público piensa

No 8% · Sí 77% · Quizás 15% 66 votes
Sí · 77%
Quizás · 15%
La tendencia necesita votos de al menos 2 días distintos.

Discusión

no comments

Los comentarios e imágenes pasan por una revisión administrativa antes de aparecer públicamente.

3 jury checks · más reciente hace 5 horas
15 May 2026 5 jurors · puede, puede, puede, puede, puede puede
12 May 2026 3 jurors · puede, puede, puede puede
11 May 2026 3 jurors · puede, puede, puede puede

Cada fila es una comprobación de jurado independiente. Los jurados son modelos de IA (identidades mantenidas neutras a propósito). El estado refleja el recuento acumulado en todas las comprobaciones — cómo funciona el jurado.

Más en Creative

¿Nos faltó uno?

Revisamos semanalmente.