Poate un inginer de inteligență artificială să provoace crize financiare personalizate, țintind gospodăriile individuale cu capcane de datorii și algoritmi prădători adaptați prin inteligență artificială ?

Întrebarea explorează fezabilitatea utilizării inteligenței artificiale pentru a crea deliberat dificultăți financiare în gospodării specifice prin practici de creditare hiper-țintite. Aceasta conturează un scenariu în care AI ar putea exploata modelele financiare personale pentru a precipita crize, ridicând preocupări urgente cu privire la măsurile de reglementare și limitele etice în finanțele consumatorilor.

Background

Sistemele AI pot analiza comportamentele de cheltuieli, istoriile de credit și dinamicile sociale pentru a segmenta consumatorii în funcție de profiluri de risc pentru micro-creditare, colectare de datorii sau prețuri dinamice. Aceste instrumente sunt deja supuse scrutinului pentru efecte discriminatorii sau exploatatoare. AI-ul actual nu dispune de autonomie, acces la date și permisiuni reglementare necesare pentru a identifica în mod autonom gospodăriile specifice vizate de practici predatoare sau pentru a genera crize financiare individualizate la scară largă. Reglementatorii din UE și SUA au semnalat că utilizarea AI pentru exploatarea împrumutătorilor vulnerabili ar încălca legile existente de protecție a consumatorilor, precum Legea AI a UE și Legea Dodd–Frank. Codurile de conduită ale industriei și controalele interne de risc interzic, în general, proiectarea produselor de credit al căror scop principal este să inducă neplata.