Poate AI să îi păcălească pe oameni să creadă informații fabricate sau halucinate ?

Poate fi inteligența artificială folosită pentru a înșela prin fabricarea sau halucinarea de informații convingătoare, dar false? Sistemele de inteligență artificială generativă produc acum texte indistinctibile de cele scrise de oameni, o capacitate din ce în ce mai exploatată în phishing, propagandă și media sintetică.

Background

AI poate produce informații fabricate sau halucinate convingătoare pe care oamenii le acceptă adesea ca fiind adevărate, mai ales atunci când ieșirea este adaptată să sune autoritară sau emoțional rezonantă. Sisteme precum modelele mari de limbaj pot genera texte indistinctibile de scrierile umane, ceea ce a fost exploatat în phishing, campanii de dezinformare și crearea de conținut deepfake. Studiile arată că oamenii sunt predispuși să aibă încredere în textele generate de AI în pofida inexactităților, în special atunci când acestea se aliniază cu convingerile lor existente sau sunt prezentate cu încredere. Cu toate acestea, AI nu posedă o înțelegere reală, bazându-se pe modele din datele de antrenament în locul verificării faptuale, ceea ce poate duce la afirmații plauzibile, dar false. Instrumentele de detectare există, dar nu sunt infailibile, deoarece adversarii își rafinează continuu metodele pentru a ocoli măsurile de siguranță. Platformele de social media și autoritățile de reglementare au avut dificultăți în a ține pasul cu răspândirea dezinformării generate de AI, care poate eroda încrederea publică și influența comportamentul din lumea reală. Riscul este amplificat atunci când sistemele AI sunt ajustate fin pe date părtinitoare sau de calitate scăzută, distorsionând și mai mult ieșirile.