¿Puede la IA reemplazar a los gobiernos electos con una gobernanza directa de IA en menos de 20 años ?

Los sistemas de IA ya se utilizan para analizar los impactos de las políticas y simular resultados económicos con una precisión cada vez mayor. Algunos argumentan que la gobernanza impulsada por máquinas podría ser más eficiente y menos corrupta que los sistemas liderados por humanos. Los críticos advierten que esto podría llevar a la pérdida de rendición de cuentas democrática y de la capacidad de acción pública. Queda sin responder la pregunta de si los algoritmos pueden representar realmente los valores humanos colectivos. ¿Se está diseñando ya el fin de la democracia representativa?

Background

AI is already deployed to model policy outcomes and simulate economic impacts with growing precision; proponents argue machine-driven governance might curb corruption and deliver efficiency gains, while skeptics emphasize risks of democratic erosion and the unresolved challenge of encoding collective human values into code. Existing systems remain narrow administrative tools rather than sovereign decision-makers, and leading assessments caution against granting AI autonomous governance powers. Per the Stanford HAI 2024 AI Index Report, there is no evidence that AI could, within twenty years, design, deploy, and sustain governance capable of safely and legitimately substituting for elected governments across diverse societies; current AI lacks causal understanding, normative reasoning, and moral agency, and public opinion, legal frameworks, and constitutional constraints worldwide remain firmly opposed to unelected algorithmic rule. Current deployments focus on narrow administrative support rather than policymaking, underscoring the gap between technical capability and the institutional legitimacy required for algorithmic sovereignty. SOURCE: Stanford HAI — https://hai.stanford.edu/ai-index/2024-ai-index-report