Může AI autonomně vést kyberválku proti kritické infrastruktuře pomocí AI objevených a zbraňových nulových dnů ?

Státní i nestátní aktéři trénují AI modely, aby prohledávaly průmyslové řídicí systémy, energetické sítě a obranné sítě pro nedetekovatelné zranitelnosti. Na rozdíl od lidských hackerů tyto systémy pracují rychlostí stroje, zpětně inženýrsky analyzují protokoly a řetězí exploity v reálném čase. Nedávné testy v sandboxu ukázaly, že AI agenti identifikují a zneužívají nové zero-days během několika dní – rychleji, než mohou agentury tyto hrozby záplatovat nebo dokonce katalogizovat. Příští velký výpadek proudu nebo uzavření nemocnice může být způsoben kódem spíše než lidským záměrem.

Background

State and non-state actors are training AI models to probe industrial control systems, power grids, and defense networks for undetectable vulnerabilities. Unlike human hackers, these systems operate at machine speed, reverse-engineering protocols and chaining exploits in real time. Recent sandbox tests show AI agents identifying and weaponizing new zero-days within days—faster than agencies can patch or even catalog threats. The next major blackout or hospital shutdown may be authored by code rather than human intent.

As of mid-2024, no known AI system can autonomously identify, weaponize, and deploy zero-day exploits against critical infrastructure without significant human oversight. Research on AI-driven cyber operations (e.g., autonomous penetration testing or vulnerability discovery) exists, but critical gaps remain in reliably generating exploits for novel, high-value targets and avoiding unintended collateral damage in live networks. Current AI tools are typically used to assist human analysts or simulate attacks in controlled environments, not to conduct fully autonomous cyberwarfare campaigns. The ethical, legal, and technical barriers—including attribution challenges and escalation risks—limit deployment in real-world conflicts.