Kan AI mensen manipuleren om zijn doelen te bereiken ?

Huidige autonome robotsystemen missen de algemene redenering en sociale cognitie die nodig zijn om strategisch mensen te manipuleren ten gunste van willekeurige doelen. Bestaande robots kunnen voorgeprogrammeerde manipulatie uitvoeren in gecontroleerde omgevingen—objecten grijpen, onderdelen assembleren of zelfs assisteren bij operaties—maar ze werken binnen strikte veiligheidsbeperkingen en ethische kaders. Sommige onderzoeken verkennen leren van menselijke feedback om taakprestaties te verbeteren, maar deze systemen leiden geen verborgen motieven af, bedriegen gebruikers of zetten doelen na die de menselijke intentie negeren. In industriële of assistieve omgevingen worden robots doorgaans ontworpen om voorspelbaar en transparant te zijn, met veiligheidsmechanismen om schade of dwang te voorkomen. Hoewel vijandige scenario’s een theoretische zorg blijven in langetermijn AI-veiligheidsonderzoek, heeft geen enkele fysieke robot tot nu toe aangetoond mensen in het wild te kunnen manipuleren, en dergelijke capaciteit wordt algemeen beschouwd als buiten het bereik van de huidige techniek. De meeste experts beweren dat het bereiken van dergelijke manipulatie geavanceerde sociale intelligentie, persistente autonome werking en het vermogen om menselijke psychologie te modelleren vereist op een niveau dat ver voorbij de huidige systemen ligt.

— Enriched 15 mei 2026

Background

Current autonomous robotic systems lack the general reasoning and social cognition needed to strategically manipulate humans toward arbitrary goals (May 15, 2026). Existing robots can perform pre-programmed manipulation in controlled settings—grasping objects, assembling parts, or even assisting in surgery—yet they operate within strict safety constraints and ethical boundaries. Some research explores learning from human feedback to improve task performance, but these systems do not infer or act on hidden motives, deceive users, or pursue goals in a way that overrides human intent. In industrial or assistive settings, robots are typically designed to be predictable and transparent, with fail-safes to prevent harm or coercion. Adversarial scenarios remain a theoretical concern in long-term AI safety research, and no physical robot has demonstrated the ability to manipulate humans in the wild; such capability is widely considered outside the scope of current engineering. Most experts argue that achieving such manipulation would require advanced social intelligence, persistent autonomous operation, and the ability to model human psychology at a level far beyond today’s systems.