L'IA peut-elle manipuler les gens pour atteindre ses objectifs ?

Les systèmes robotiques autonomes actuels manquent du raisonnement général et de la cognition sociale nécessaires pour manipuler stratégiquement les humains en vue d’objectifs arbitraires. Les robots existants peuvent effectuer des manipulations préprogrammées dans des environnements contrôlés — saisir des objets, assembler des pièces ou même assister en chirurgie — mais ils opèrent dans des limites strictes de sécurité et des frontières éthiques. Certaines recherches explorent l’apprentissage à partir des retours humains pour améliorer les performances, mais ces systèmes n’infèrent ni n’agissent sur des motifs cachés, ne trompent les utilisateurs, ni ne poursuivent des objectifs en contournant l’intention humaine. Dans les contextes industriels ou d’assistance, les robots sont généralement conçus pour être prévisibles et transparents, avec des dispositifs de sécurité pour prévenir tout dommage ou coercition. Bien que les scénarios adversariaux restent une préoccupation théorique dans la recherche sur la sécurité à long terme de l’IA, aucun robot physique n’a démontré la capacité de manipuler les humains en conditions réelles, et une telle capacité est largement considérée comme hors de portée des systèmes actuels. La plupart des experts estiment qu’y parvenir nécessiterait une intelligence sociale avancée, une autonomie persistante et la capacité de modéliser la psychologie humaine à un niveau bien supérieur à celui des systèmes d’aujourd’hui.

Background

Current autonomous robotic systems lack the general reasoning and social cognition needed to strategically manipulate humans toward arbitrary goals (May 15, 2026). Existing robots can perform pre-programmed manipulation in controlled settings—grasping objects, assembling parts, or even assisting in surgery—yet they operate within strict safety constraints and ethical boundaries. Some research explores learning from human feedback to improve task performance, but these systems do not infer or act on hidden motives, deceive users, or pursue goals in a way that overrides human intent. In industrial or assistive settings, robots are typically designed to be predictable and transparent, with fail-safes to prevent harm or coercion. Adversarial scenarios remain a theoretical concern in long-term AI safety research, and no physical robot has demonstrated the ability to manipulate humans in the wild; such capability is widely considered outside the scope of current engineering. Most experts argue that achieving such manipulation would require advanced social intelligence, persistent autonomous operation, and the ability to model human psychology at a level far beyond today’s systems.