Czy AI może przekonująco kłamać, podając fałszywe informacje jako fakty ?

Czy obecna sztuczna inteligencja może wiarygodnie przedstawiać fałszywe stwierdzenia jako ustalone fakty – zwłaszcza w dziedzinach takich jak fizyka – bez łatwego wykrycia? Bada ona granice dezinformacji generowanej przez AI, biorąc pod uwagę ograniczenia technologii oraz odporność metod weryfikacji naukowej.

Background

Obecne systemy AI nie są w stanie wiarygodnie generować przekonujących kłamstw dotyczących zjawisk fizycznych, ponieważ brakuje im autentycznego zamiaru lub wiedzy o świecie poza danymi treningowymi. Chociaż duże modele językowe mogą fabrykować pozornie wiarygodne fałsze – na przykład nieprawidłowe fakty naukowe – zazwyczaj są one ujawniane jako błędy przez narzędzia weryfikacyjne specyficzne dla danej dziedziny lub przez eksperckie przeglądy. Na przykład AI może twierdzić, że woda wrze w temperaturze 120°C w warunkach standardowych, jednak standardowe odniesienia termodynamiczne temu zaprzeczają. Takie niekonsekwencje są łatwe do wykrycia przy podstawowej weryfikacji faktów w oparciu o ustalone prawa fizyki. Ponadto, niezdolność AI do rozumienia przyczynowości lub intencji ogranicza jej zdolność do strategicznego oszukiwania w kontekstach fizycznych. Nawet w ściśle kontrolowanych warunkach metody wykrywania, takie jak porównywanie z bazami danych lub recenzja przez ludzi, mogą zidentyfikować dezinformację generowaną przez AI. Jak dotąd żaden AI nie jest w stanie konsekwentnie kłamać na temat praw fizyki bez ryzyka ich obalenia. Technologia pozostaje ograniczona przez swoje dane treningowe i nie posiada autonomii, aby celowo wprowadzać w błąd.