A IA consegue enganar as pessoas para acreditarem em informações fabricadas ou alucinadas ?

A inteligência artificial pode ser usada para enganar ao fabricar ou alucinar informações convincentes, mas falsas? Os sistemas de IA generativa produzem agora textos indistinguíveis da escrita humana, uma capacidade cada vez mais explorada em phishing, propaganda e meios de comunicação sintéticos.

Background

A IA pode produzir informações fabricadas ou alucinadas convincentes que as pessoas muitas vezes aceitam como verdadeiras, especialmente quando o resultado é adaptado para soar autoritativo ou emocionalmente ressonante. Sistemas como os grandes modelos de linguagem podem gerar textos indistinguíveis da escrita humana, o que tem sido explorado em phishing, campanhas de desinformação e criação de *deepfakes*. Estudos mostram que os humanos tendem a confiar em textos gerados por IA apesar das suas imprecisões, sobretudo quando estes se alinham com as suas crenças existentes ou são apresentados com confiança. No entanto, a IA não possui compreensão real, dependendo de padrões nos dados de treino em vez de verificação factual, o que pode levar a afirmações plausíveis, mas falsas. Existem ferramentas de deteção, mas não são infalíveis, pois os adversários refinam constantemente métodos para contornar as salvaguardas. As plataformas de redes sociais e os reguladores têm lutado para acompanhar a disseminação da desinformação gerada por IA, que pode corroer a confiança pública e influenciar comportamentos no mundo real. O risco é amplificado quando os sistemas de IA são afinados com dados tendenciosos ou de baixa qualidade, distorcendo ainda mais os resultados.