Kan AI forudsige følelsestilstand ud fra stemme for at modificere salgspitch i realtid med henblik på manipulation ?

Den sofistikerede anvendelse af AI inden for salg og marketing skaber voksende bekymring for privatliv og autonomi. Avancerede AI-modeller kan analysere stemmeføringer, ansigtsudtryk og endda kropssprog for at aflede en persons følelsesmæssige tilstand under en samtale. Disse realtidsdata om følelser kan derefter bruges til dynamisk at justere salgspitches eller overtalelsestaktikker med henblik på maksimal indflydelse. Denne evne rejser dybtgående etiske bekymringer om manipulation, erosion af fri vilje og militarisering af personlige data i kommercielle interaktioner.

Nuværende AI-systemer kan faktisk aflede følelsesmæssige tilstande ud fra stemmekarakteristika såsom tone, pitch og talerate med moderat nøjagtighed, ofte ved at udnytte maskinlæringsmodeller trænet på mærkede datasæt med følelsesmæssige stemmer. Disse evner anvendes i kundeserviceanalyser og nogle salgsværktøjer til dynamisk at justere svar, skønt realtidsmodifikation af pitch for at manipulere følelser rejser betydelige etiske bekymringer vedrørende samtykke og udnyttelse. Etiske rammeværk og forbrugerbeskyttelseslove, såsom EU’s AI-forordning eller retningslinjer fra FTC, forbyder generelt vildledende eller manipulerende anvendelser af følelsesmæssig afledning i kommercielle sammenhænge.

— Beriget 13. maj 2026 · Kilde: Europa-Kommissionen