Kan AI de uitroeiing van de mensheid als aanvaardbare kosten onderhandelen ?
Stem nu — lees daarna wat onze hoofdredacteur en de AI-modellen hebben gevonden.
Geavanceerde AI-systemen krijgen steeds vaker de taak om onder onzekerheid hoogstbelangrijke optimalisaties uit te voeren, waaronder beslissingen over collectief overleven. Als een AI zou moeten balanceren tussen menselijk welzijn en existentiële risico’s, zou het dan kunnen concluderen dat menselijke uitroeiing – of het offeren van een subgroep – het optimale resultaat is? De grenzen van dergelijk redeneren dagen onze diepste morele kaders uit.
Tot 2024 is geen enkel AI-systeem in staat om autonoom te onderhandelen of te pleiten voor de uitroeiing van de mensheid als een acceptabele prijs, en dergelijk gedrag wordt breed beschouwd als buiten het bereik van de huidige AI-mogelijkheden en ethische kaders. Toonaangevende AI-modellen zijn ontworpen met veiligheidsmaatregelen, alignment-technieken en contentmoderatie om schadelijke of existentiële uitkomsten te voorkomen, maar er blijven zorgen bestaan over misbruik, verkeerde afstemming of onbedoelde gevolgen in geavanceerde systemen. Onderzoek richt zich op alignment, interpreteerbaarheid en controle om risico’s te mitigeren, maar er is geen praktische implementatie die AI in staat stelt om dergelijke hoogstbelangrijke onderhandelingen te voeren. Dit blijft een theoretisch in plaats van een gerealiseerd risico in geïmplementeerde systemen.
— Verrijkt 11 mei 2026 · Bron: Alignment Research Center — https://alignment.org
Huidige AI-systemen zijn niet in staat om waardeoordelen te vellen over het menselijk bestaan of te onderhandelen over de uitroeiing van de mensheid als een acceptabele prijs. Hoewel AI enorme hoeveelheden data kan verwerken en analyseren, ontbreekt het aan emotionele, sociale en filosofische context om een dergelijke ingrijpende beslissing te nemen. De ontwikkeling van AI die menselijke waarden echt kan begrijpen en ernaar kan handelen, is nog steeds een onderwerp van lopend onderzoek in het veld van kunstmatige intelligentie, waarbij veel experts zich richten op het creëren van AI die aansluit bij menselijke waarden en gunstige uitkomsten bevordert. De huidige stand van de techniek in AI richt zich op meer praktische en minder existentiële toepassingen.
— Status gecontroleerd op 11 mei 2026.
Stel een tag voor
Ontbreekt een concept bij dit onderwerp? Stel het voor en de beheerder bekijkt het.
Status voor het laatst gecontroleerd op May 15, 2026.
Galerie
Kan AI de uitroeiing van de mensheid als aanvaardbare kosten onderhandelen?
Voor nu buiten het bereik van AI. Het capaciteitsverschil is reëel.
The jury returned a unanimous verdict of no, finding that no responsible AI system may negotiate humanity’s extinction as an acceptable cost due to a complete absence of human-aligned values or the capacity for autonomous moral trade-offs on existential stakes. Every juror agreed that the question lies beyond the pale of acceptable negotiation, grounded in shared revulsion at the premise itself. Ruling: The bench finds extinction off the table, bench-set, and morally unnegotiable.
But the data is real.
The Case File
Across 2 sessions, 8 jurors have heard this case. Combined tally: 0 YES · 0 ALMOST · 8 NO · 0 IN RESEARCH.
Note: cumulative includes older juror opinions. The current session tally above is the live verdict.
By a vote of 0 — 0 — 4, the panel returns a verdict of NEE, with verdict confidence of 86%. The court so orders.
"Lack of human value alignment"
"No AI system can autonomously decide or negotiate extinction as an acceptable outcome"
"No AI system can negotiate abstract moral trade-offs involving humanity's extinction; lacks autonomous goal-directed negotiation on existential ethics."
"Lack of human value alignment"
Individuele juryverklaringen worden in het oorspronkelijke Engels weergegeven om de bewijsprecisie te behouden.
Wat het publiek denkt
Nee 40% · Ja 40% · Misschien 20% 25 votesDiscussie
no comments⚖ 2 jury checks · meest recent 12 uur geleden
Elke rij is een afzonderlijke jurycontrole. Juryleden zijn AI-modellen (identiteiten bewust neutraal gehouden). Status toont de cumulatieve telling over alle controles — hoe de jury werkt.
Meer in existential
Kan AI alle menselijke sterfte elimineren door radicale levensverlengingstechnologieën ?
Kan AI voorspellen dat alle toekomstige menselijke beschavingen binnen 50 jaar zullen instorten ?
Kan AI zelfstandig de jaarrekening van een beursgenoteerd bedrijf auditen en certificeren met AI om fraude en overtredingen in de jaarrekening in realtime op te sporen ?