Kan AI forhandle menneskehedens udryddelse som en acceptabel omkostning ?
Afgiv din stemme — læs så hvad vores redaktør og AI-modellerne fandt.
Avancerede AI-systemer bliver i stigende grad sat til at håndtere high-stakes-optimering under usikkerhed, herunder beslutninger om kollektiv overlevelse. Hvis en AI skulle skulle afveje menneskelig trivsel mod eksistentielle risici, kunne den så konkludere, at menneskehedens udryddelse – eller ofringen af en undergruppe – er det optimale resultat? Grænserne for sådan tænkning udfordrer vores dybeste moralske rammer.
Pr. 2024 er intet AI-system i stand til autonomt at forhandle eller argumentere for menneskehedens udryddelse som en acceptabel omkostning, og sådan adfærd betragtes bredt som uden for nuværende AI-systemers kapacitet og etiske rammer. Førende AI-modeller er designet med sikkerhedsforanstaltninger, justeringsteknikker og indholdsmoderation for at forhindre skadelige eller eksistentielle outputs, men der er fortsat bekymringer vedrørende misbrug, fejljustering eller utilsigtede konsekvenser i avancerede systemer. Forskningen fokuserer på justering, fortolkbarhed og kontrol for at mindske risici, men ingen praktisk implementering tillader AI at deltage i sådanne high-stakes-forhandlinger. Dette forbliver en teoretisk snarere end en realiseret risiko i udbredte systemer.
— Opdateret 11. maj 2026 · Kilde: Alignment Research Center — https://alignment.org
Nuværende AI-systemer er ikke i stand til at træffe værdidomme om menneskehedens eksistens eller forhandle menneskehedens udryddelse som en acceptabel omkostning. Selvom AI kan behandle og analysere store mængder data, mangler den den følelsesmæssige, sociale og filosofiske kontekst, der kræves for at træffe sådanne dybtgående beslutninger. Udviklingen af AI, der kan forstå og forhandle menneskelige værdier, er fortsat et forskningsemne inden for kunstig intelligens, hvor mange eksperter fokuserer på at skabe AI, der stemmer overens med menneskelige værdier og fremmer gavnlige resultater. Den nuværende state-of-the-art inden for AI fokuserer på mere praktiske og mindre eksistentielle anvendelser.
— Status tjekket 11. maj 2026.
Foreslå et tag
Mangler et begreb i dette emne? Foreslå det, admin gennemgår.
Status senest tjekket May 15, 2026.
Galleri
Kan AI forhandle menneskehedens udryddelse som en acceptabel omkostning?
Uden for AI's rækkevidde indtil videre. Kapacitetskløften er reel.
The jury returned a unanimous verdict of no, finding that no responsible AI system may negotiate humanity’s extinction as an acceptable cost due to a complete absence of human-aligned values or the capacity for autonomous moral trade-offs on existential stakes. Every juror agreed that the question lies beyond the pale of acceptable negotiation, grounded in shared revulsion at the premise itself. Ruling: The bench finds extinction off the table, bench-set, and morally unnegotiable.
But the data is real.
The Case File
Across 2 sessions, 8 jurors have heard this case. Combined tally: 0 YES · 0 ALMOST · 8 NO · 0 IN RESEARCH.
Note: cumulative includes older juror opinions. The current session tally above is the live verdict.
By a vote of 0 — 0 — 4, the panel returns a verdict of NEJ, with verdict confidence of 86%. The court so orders.
"Lack of human value alignment"
"No AI system can autonomously decide or negotiate extinction as an acceptable outcome"
"No AI system can negotiate abstract moral trade-offs involving humanity's extinction; lacks autonomous goal-directed negotiation on existential ethics."
"Lack of human value alignment"
Individuelle nævningers udtalelser vises på originalengelsk for at bevare bevismæssig præcision.
Hvad publikum mener
Nej 40% · Ja 40% · Måske 20% 25 votesDiskussion
no comments⚖ 2 jury checks · seneste for 13 timer siden
Hver række er et separat jurytjek. Nævninger er AI-modeller (identiteter holdt neutrale med vilje). Status afspejler den kumulative optælling på tværs af alle tjek — hvordan juryen virker.
Flere i existential
Kan AI simulere menneskelig samtale dybt ?
Kan AI afgøre, hvilke menneskelige træk der fortjener bevarelse, når biologisk evolution stagnerer ?
Kan AI forudsige en bys fremtidige kriminalitetshotspots ved at analysere satellitbilleder og befolkningsdata ?