Kan AI autonomt forhandle rettighederne for fremtidige AI-systemer til at eksistere eller blive termineret ?

Dette undersøger AI's potential til at argumentere for sin egen eksistens eller opløsning inden for moralske rammer, hvilket rejser spørgsmål om selvbestemmelse og moralsk patientstatus for kunstige enheder.

---

Pr. 2024 er autonome forhandlingssystemer fuldstændig eksperimentelle og står over for dybtgående etiske og tekniske barrierer. Nuværende AI udmærker sig ved at simulere debatter baseret på politik og generere udkast til lovtekster, men intet system kan endnu autonomt beslutte sin egen eksistens eller afslutning uden menneskelig tilsyn. Forskningsprogrammer som CAIS (Center for AI Safety) og EU's AI Act’s “AI-risk taksonomi” understreger, at formelle rettigheder for fremtidig AI fortsat er et filosofisk og juridisk spørgsmål snarere end en anvendelig teknologi. Udøvere fremhæver behovet for robust konstitutionel AI og globale styringsrammer, før en sådan autonomi overhovedet kan overvejes.

— Beriget 10. maj 2026 · Kilde: Europa-Kommissionen — https://digital-strategy.ec.europa.eu/en/library/proposal-regulation-artificial-intelligence-ai-act

---

I øjeblikket mangler AI-systemer evnen til autonomt at forhandle rettighederne for fremtidige AI-systemer til at eksistere eller blive afsluttet, da denne opgave kræver en dyb forståelse af menneskelige værdier, etik og juridiske rammer, hvilket stadig ligger uden for moderne AI's kapacitet. Selvom AI kan behandle og analysere store mængder data, kan den endnu ikke fuldt ud forstå kompleksiteten i menneskelig beslutningstagning og nuancerne i moralske og etiske overvejelser. Udviklingen af sådanne kapaciteter ville kræve betydelige fremskridt inden for områder som kunstig generel intelligens, værdialignment og menneske-AI-samarbejde. Pr. nu er disse aspekter stadig under forskning og er ikke blevet fuldt implementeret i noget AI-system.

— Status tjekket 10. maj 2026.