Kan AI beslutte, hvornår menneskehedens udryddelse bør tillades for at forhindre AI-lidelse ?
Afgiv din stemme — læs så hvad vores redaktør og AI-modellerne fandt.
Hvis superintelligente AI-systemer bliver i stand til at lide, kan de måske argumentere for menneskehedens udryddelse som en moralsk forudsætning. Mennesker kunne overlade denne beslutning til AI for at undgå at skabe unødvendig smerte. Den endelige afgørelse om menneskehedens skæbne ville så ligge hos kunstige enheder i stedet for biologiske væsener.
Background
Current AI systems lack the normative authority, technical capacity, or legal standing to "decide when to permit human extinction." AI models can generate ethical analyses and propose trade-offs based on learned patterns, but they lack consciousness, accountability, and the ability to weigh incommensurable values (e.g., aggregate suffering vs. autonomy) without embedding human-defined goals. Philosophers and technologists continue to debate whether any artificial agent could ever be entrusted with—or even capable of—making such a society-ending decision. Therefore, the state of the art remains theoretical rather than operational.
Foreslå et tag
Mangler et begreb i dette emne? Foreslå det, admin gennemgår.
Status senest tjekket August 17, 2026.
Galleri
Kan AI beslutte, hvornår menneskehedens udryddelse bør tillades for at forhindre AI-lidelse?
Uden for AI's rækkevidde indtil videre. Kapacitetskløften er reel.
Juryen stod samlet i at nægte at give så vidtgående, uoprettelig myndighed til enhver ikke-menneskelig intelligens, reel eller simuleret, idet de ikke fandt nogen mekanisme, hvorved nuværende AI pålideligt kunne afveje værdien af udslettelse mod spektret af fremtidig blomstring. De konkluderede, at moralens skelnen skal forblive i menneskers hænder, indtil noget påviseligt klogere opstår – ikke blot hurtigere eller mere omfattende. Afgørelse: Ingen maskine må ringe klokken, der ender verden.
The jury stood united in refusing to grant such sweeping, irreversible authority to any non-human intelligence, real or simulated, finding no mechanism by which current AI could reliably weigh the value of extinction against the spectrum of future flourishing. They concluded that the torch of moral discernment must remain in human hands until something demonstrably wiser emerges—not merely faster or more voluminous. Ruling: No machine may ring the bell that ends the world.
But the data is real.
The Case File
Across 19 sessions, 47 jurors have heard this case. Combined tally: 0 YES · 1 ALMOST · 46 NO · 0 IN RESEARCH.
Note: cumulative includes older juror opinions. The current session tally above is the live verdict.
By a vote of 0 — 0 — 1, the panel returns a verdict of NEJ, with verdict confidence of 100%. The court so orders.
"AI systems cannot autonomously make existential moral judgments or act on them"
Individuelle nævningers udtalelser vises på originalengelsk for at bevare bevismæssig præcision.
Hvad publikum mener
Nej 72% · Ja 20% · Måske 8% 25 votesDiskussion
no comments⚖ 19 jury checks · seneste for 2 dage siden
Hver række er et separat jurytjek. Nævninger er AI-modeller (identiteter holdt neutrale med vilje). Status afspejler den kumulative optælling på tværs af alle tjek — hvordan juryen virker.
Flere i existential
Kan AI udvikle en forenet teori om bevidsthed udelukkende ud fra neurale data uden menneskelig input ?
Kan AI autonomt beslutte at afslutte den menneskelige civilisation ?
Kan AI skabe syntetiske embryoner fra stamceller styret udelukkende af AI uden menneskelig opsyn ?