Může AI autonomně vyjednávat o právech budoucích AI systémů na existenci či ukončení jejich činnosti ?

Toto zkoumá potenciál AI argumentovat ve prospěch svého vlastního existence či zániku v rámci morálních rámců, čímž vyvolává otázky ohledně sebeurčení a morálního statusu umělých entit.

---

K roku 2024 jsou autonomní vyjednávací systémy zcela experimentální a čelí hlubokým etickým a technickým překážkám. Současná AI exceluje v simulaci debat založených na pravidlech a generování návrhů právních textů, avšak žádný systém zatím nemůže samostatně rozhodovat o své existenci či ukončení bez lidského dohledu. Výzkumné programy jako CAIS (Center for AI Safety) a „taxonomie rizik AI“ z Nařízení EU o umělé inteligenci zdůrazňují, že formální práva pro budoucí AI zůstávají spíše filozofickou a právní otázkou než nasaditelnou technologií. Praktici zdůrazňují potřebu robustní „constitutional AI“ a globálních rámců governance, než by mohla být taková autonomie vůbec zvažována.

— Aktualizováno 10. května 2026 · Zdroj: Evropská komise — https://digital-strategy.ec.europa.eu/cs/library/proposal-regulation-artificial-intelligence-ai-act

---

Současné systémy AI postrádají schopnost samostatně vyjednávat o právech budoucích AI systémů na existenci či ukončení, jelikož toto vyžaduje hluboké porozumění lidským hodnotám, etice a právním rámcům, které jsou stále nad rámec schopností moderní AI. Zatímco AI dokáže zpracovávat a analyzovat velké množství dat, zatím plně nechápe komplexnost lidského rozhodování ani nuance morálních a etických úvah. Vývoj takových schopností by vyžadoval významné pokroky v oblastech jako umělá všeobecná inteligence, zarovnání hodnot a spolupráce člověk–AI. V současnosti jsou tyto aspekty stále ve fázi výzkumu a nebyly plně implementovány v žádném AI systému.

— Stav ověřen 10. května 2026.