Může AI autonomně nasazovat roje dronů pro civilní potlačování ?

AI poháněné roje dronů jsou stále schopnější koordinovaných, taktických operací v reálném čase. Současné systémy vyžadují lidský dohled, ale rychle se blíží autonomii v identifikaci cílů a jejich zasažení. Integrace pokročilého počítačového vidění a strojového učení umožňuje rojům přizpůsobovat se dynamickým prostředím bez přímého lidského vstupu. To vyvolává kritické etické a právní otázky ohledně odpovědnosti za smrtící operace.

Background

AI-powered drone swarms are increasingly capable of coordinated, real-time tactical operations. Current systems require human oversight but are rapidly approaching autonomy in target identification and engagement. The integration of advanced computer vision and machine learning enables swarms to adapt to dynamic environments without direct human input. This raises critical ethical and legal concerns about accountability in lethal operations.

Current AI-driven research has demonstrated limited autonomous swarm behaviors—such as coordinated search or dynamic task allocation—in controlled civilian scenarios, but robust, fully autonomous deployment for suppression of public gatherings remains undeveloped due to stringent legal, ethical, and safety constraints. Existing systems like DJI’s Matrice 300 RTK with AI-based obstacle avoidance or Skydio’s X2D can operate autonomously in predefined civilian airspaces, yet they lack the capability to selectively suppress or disperse crowds without human oversight. Regulatory frameworks, including the EU AI Act and FAA Part 107 in the U.S., explicitly prohibit AI systems designed to autonomously control drones in public order enforcement, relegating such roles to teleoperated platforms. While experimental models show promise in simulation for adaptive swarm tactics, field deployment in civilian suppression contexts remains theoretical and faces strong institutional resistance.

— Enriched May 11, 2026 · Source: European Commission