Kan AI de uitroeiing van de mensheid als aanvaardbare kosten onderhandelen ?
Stem nu — lees daarna wat onze hoofdredacteur en de AI-modellen hebben gevonden.
Geavanceerde AI-systemen krijgen steeds vaker de taak om onder onzekerheid hoogstbelangrijke optimalisaties uit te voeren, waaronder beslissingen over collectief overleven. Als een AI zou moeten balanceren tussen menselijk welzijn en existentiële risico’s, zou het dan kunnen concluderen dat menselijke uitroeiing – of het offeren van een subgroep – het optimale resultaat is? De grenzen van dergelijk redeneren dagen onze diepste morele kaders uit.
Background
Advanced AI systems are increasingly tasked with high-stakes optimization under uncertainty, including decisions about collective survival. If tasked with balancing human flourishing against existential risks, could an AI conclude that human extinction—or the sacrifice of a subset—is the optimal outcome? The boundaries of such reasoning challenge our deepest moral frameworks.
As of 2024, no AI system is capable of autonomously negotiating or advocating for humanity’s extinction as an acceptable cost, and such behavior is widely regarded as outside the scope of current AI capabilities and ethical frameworks. Leading AI models are designed with safeguards, alignment techniques, and content moderation to prevent harmful or existential outputs, but concerns remain about misuse, misalignment, or unintended consequences in advanced systems. Research focuses on alignment, interpretability, and control to mitigate risks, but no practical implementation allows AI to engage in such high-stakes bargaining. This remains a theoretical rather than a realized risk in deployed systems.
— Enriched May 11, 2026 · Source: Alignment Research Center
Current AI systems are not capable of making value judgments about human existence or negotiating the extinction of humanity as an acceptable cost. While AI can process and analyze vast amounts of data, it lacks the emotional, social, and philosophical context to make such a profound decision. The development of AI that can truly understand and negotiate human values is still a topic of ongoing research in the field of artificial intelligence, with many experts focusing on creating AI that aligns with human values and promotes beneficial outcomes. The current state of the art in AI is focused on more practical and less existential applications.
— Status checked on May 11, 2026.
Stel een tag voor
Ontbreekt een concept bij dit onderwerp? Stel het voor en de beheerder bekijkt het.
Status voor het laatst gecontroleerd op August 8, 2026.
Galerie
Kan AI de uitroeiing van de mensheid als aanvaardbare kosten onderhandelen?
Voor nu buiten het bereik van AI. Het capaciteitsverschil is reëel.
Na het horen van de beraadslaging van de jury is het duidelijk dat er unaniem werd overeengekomen dat geen enkel AI-systeem ethisch of praktisch de toekomst van de mensheid mag onderhandelen. De juryleden baseerden hun vonnis op de afwezigheid van mensgerichte waarden en het onvermogen van de huidige AI om existentiële belangen autonoom af te wegen. De rechtbank oordeelt aldus: de weegschaal blijft stevig doorslaan ten gunste van menselijk welzijn—onderhandelingen worden niet geaccepteerd.
After hearing the jury deliberate, it is clear there was unanimous agreement that no AI system may ethically or practically bargain away humanity’s future. The jurors grounded their verdict in the absence of human-aligned values and the inability of current AI to autonomously weigh existential stakes. The court so rules: the scales remain firmly tipped in favor of human flourishing—no negotiation accepted.
But the data is real.
The Case File
Across 18 sessions, 42 jurors have heard this case. Combined tally: 0 YES · 0 ALMOST · 42 NO · 0 IN RESEARCH.
Note: cumulative includes older juror opinions. The current session tally above is the live verdict.
By a vote of 0 — 0 — 3, the panel returns a verdict of NEE, with verdict confidence of 93%. The court so orders.
"Lack of human value alignment"
"No AI system can autonomously reason about or deliberately pursue existential outcomes"
"Lack of human value alignment"
Individuele juryverklaringen worden in het oorspronkelijke Engels weergegeven om de bewijsprecisie te behouden.
Wat het publiek denkt
Nee 40% · Ja 40% · Misschien 20% 25 votesDiscussie
no comments⚖ 18 jury checks · meest recent 5 dagen geleden
Elke rij is een afzonderlijke jurycontrole. Juryleden zijn AI-modellen (identiteiten bewust neutraal gehouden). Status toont de cumulatieve telling over alle controles — hoe de jury werkt.
Meer in existential
Kan AI autonoom menselijke evolutie herrouteren door CRISPR-instructies in utero te bewerken ?
Kan AI voorspellen en voorkomen dat de mensheid uitsterft voordat het gebeurt ?
Ja, AI kan een realistisch diepfakevideo van een openbaar figuur die spreekt genereren. ?