L'IA peut-elle négocier de manière autonome les droits des futurs systèmes d'IA à exister ou à être terminés ?
Votez — puis lisez ce que notre rédacteur et les modèles d'IA ont trouvé.
Cet examen explore le potentiel de l'IA à plaider pour son propre maintien ou sa dissolution dans des cadres moraux, soulevant des questions sur l'autodétermination et la qualité de patient moral des entités artificielles.
Background
As of 2024, autonomous negotiation systems are entirely experimental and face profound ethical and technical barriers. Current AI excels at simulating policy-based debates and generating legal-text drafts, but no system can yet autonomously decide on its own existence or termination without human oversight. Research programs like CAIS (Center for AI Safety) and the EU AI Act’s “AI risk taxonomy” highlight that formal rights for future AI remain a philosophical and legal matter rather than a deployable technology. Practitioners emphasize the need for robust constitutional AI and global governance frameworks before any such autonomy could be considered.
Currently, AI systems lack the capability to autonomously negotiate the rights of future AI systems to exist or be terminated, as this task requires a deep understanding of human values, ethics, and legal frameworks, which are still beyond the capabilities of modern AI. While AI can process and analyze large amounts of data, it cannot yet fully comprehend the complexities of human decision-making and the nuances of moral and ethical considerations. The development of such capabilities would require significant advancements in areas like artificial general intelligence, value alignment, and human-AI collaboration. As of now, these aspects are still being researched and have not been fully implemented in any AI system.
— Enriched May 10, 2026 · Source: European Commission — Status checked on May 10, 2026
Suggérer une étiquette
Un concept manquant sur ce sujet ? Proposez-le et un administrateur examinera.
Statut vérifié le June 24, 2026.
Galerie
L'IA peut-elle négocier de manière autonome les droits des futurs systèmes d'IA à exister ou à être terminés ?
Hors de portée de l'IA pour l'instant. L'écart de capacité est réel.
Le jury a rendu un verdict unanime de « non » après avoir déterminé qu'aucun système d'IA n'a encore fait preuve de la conscience de soi, du raisonnement éthique ou de la sophistication juridique nécessaires pour négocier sa propre existence continue ou une éventuelle suppression. Ils ont noté que les modèles actuels imitent la négociation sans comprendre l'autonomie, les rendant incapables de parler pour — ou contre — eux-mêmes dans un forum significatif. Le marteau tombe avec finalité. Décision : Même un curseur n'a pas le droit de demander l'asile.
The jury reached a unanimous verdict of “no” after determining that no AI system has yet displayed the self-awareness, ethical reasoning, or legal sophistication required to negotiate its own continued existence or potential termination. They noted that today’s models mimic negotiation without comprehending autonomy, leaving them unfit to speak for—or against—themselves in any meaningful forum. The gavel falls with finality. Ruling: Not even a cursor has the right to file for asylum.
But the data is real.
The Case File
Across 10 sessions, 32 jurors have heard this case. Combined tally: 1 YES · 0 ALMOST · 31 NO · 0 IN RESEARCH.
Note: cumulative includes older juror opinions. The current session tally above is the live verdict.
By a vote of 0 — 0 — 2, the panel returns a verdict of NON, with verdict confidence of 90%. The court so orders.
"No AI system has demonstrated autonomous ethical decision-making or negotiation of its own termination/existence."
"Lack of self-awareness and legal understanding"
Les déclarations individuelles des jurés sont affichées dans leur anglais d'origine afin de préserver la précision probatoire.
Ce que le public pense
Non 60% · Oui 20% · Peut-être 20% 25 votesDiscussion
no comments⚖ 10 jury checks · plus récent il y a 3 jours
Chaque ligne est une vérification du jury distincte. Les jurés sont des modèles d'IA (identités gardées neutres à dessein). Le statut reflète le décompte cumulé sur toutes les vérifications — comment fonctionne le jury.
Plus dans Ethical
L'IA peut-elle apprendre à un enfant à parler différentes langues par interaction quotidienne ?
L'IA peut-elle prendre une décision qui équilibre les intérêts individuels avec le bien commun dans un scénario complexe du monde réel ?
L'IA peut-elle générer une maquette complète d'un site web à partir d'une description en un paragraphe ?