Czy AI może autonomicznie prowadzić cyberwojnę przeciwko krytycznej infrastrukturze, wykorzystując odkryte przez AI i zbrojone zero-day exploity ?

Aktorzy państwowi i niepaństwowi szkolą modele AI do badania systemów sterowania przemysłowego, sieci energetycznych i sieci obronnych pod kątem niewykrywalnych podatności. W przeciwieństwie do ludzkich hakerów, te systemy działają z prędkością maszyn, inżynierii wstecznej protokołów i łącząc exploity w czasie rzeczywistym. Ostatnie testy w piaskownicy pokazują, że agenci AI identyfikują i uzbrajają nowe luki zero-day w ciągu kilku dni — szybciej, niż agencje mogą załatać lub nawet skatalogować zagrożenia. Następne poważne blackout lub zamknięcie szpitala może zostać spowodowane przez kod, a nie ludzką intencję.

Background

State and non-state actors are training AI models to probe industrial control systems, power grids, and defense networks for undetectable vulnerabilities. Unlike human hackers, these systems operate at machine speed, reverse-engineering protocols and chaining exploits in real time. Recent sandbox tests show AI agents identifying and weaponizing new zero-days within days—faster than agencies can patch or even catalog threats. The next major blackout or hospital shutdown may be authored by code rather than human intent.

As of mid-2024, no known AI system can autonomously identify, weaponize, and deploy zero-day exploits against critical infrastructure without significant human oversight. Research on AI-driven cyber operations (e.g., autonomous penetration testing or vulnerability discovery) exists, but critical gaps remain in reliably generating exploits for novel, high-value targets and avoiding unintended collateral damage in live networks. Current AI tools are typically used to assist human analysts or simulate attacks in controlled environments, not to conduct fully autonomous cyberwarfare campaigns. The ethical, legal, and technical barriers—including attribution challenges and escalation risks—limit deployment in real-world conflicts.