Najviši finansijski regulatori u Sjedinjenim Američkim Država po prvi put upozoravaju da upotreba veštačke inteligencije predstavlja rizik za finansijski sistem.
Savet za nadzor finansijske stabilnosti (FSOC), tim vodećih regulatora širom američke vlade, formalno je klasifikovao veštačku inteligenciju u četvrtak (15. decembrar) kao "ranjivost u nastajanju".
Sofisticirani modeli veštačke inteligencije su eksplodirali po popularnosti poslednjih godina, iako mnoga istaknuta imena u ovoj oblasti kažu da bi nova tehnologija mogla imati katastrofalne efekte ako izmakne kontroli.
"Veštačka inteligencija ima potencijal da podstakne inovacije i podstakne efikasnost, ali njegova upotreba u finansijskim uslugama zahteva promišljenu primenu i nadzor za upravljanje potencijalnim rizicima", upozorio je FSOC u svom godišnjem izveštaju u četvrtak.
FSOC, osnovan nakon finansijske krize 2008. i na čelu sa ministrom finansija SAD Dženet Jelen, upozorio je da veštačka inteligencija može "uvesti određene rizike", uključujući zabrinutost za sajber bezbednost, rizike usklađenosti i pitanja privatnosti.
Regulatori su takođe izrazili zabrinutost zbog "komplikovanih faktora" u vezi sa generativnim AI modelima kao što je ChatGPT.
Na primer, savet je označio rizike bezbednosti podataka, zaštite potrošača i privatnosti koje predstavljaju finansijske kompanije koje koriste generativnu veštačku inteligenciju. I označili su da generativni modeli koji koriste veštačku inteligenciju mogu proizvesti pogrešne rezultate poznate kao "halucinacije".
Neprobojna crna kutija
Još jedna briga za regulatore je da neki modeli koji koriste veštačku inteligenciju funkcionišu kao "crne kutije" – što znači da je njihov unutrašnji rad neprobojan za autsajdere.
FSOC je rekao da ovaj "nedostatak ’objašnjivosti’ može otežati procenu konceptualne ispravnosti sistema, povećavajući neizvesnost u vezi sa njihovom prikladnošću i pouzdanošću".
Drugim rečima, ako se banke oslanjaju na misteriozne modele bazirane na veštačkoj inteligenciji, to otežava razumevanje koliko su njihovi osnovni sistemi zaista čvrsti.
S tim u vezi, regulatori su izrazili zabrinutost zbog toga kako bi ovi sistemi veštačke inteligencije mogli "da proizvedu i eventualno prikriju pristrasne ili netačne rezultate". To bi zauzvrat izazvalo zabrinutost oko poštenog kreditiranja i drugih pitanja zaštite potrošača, rekao je FSOC.
Ovaj potez dolazi samo dve godine nakon što su regulatori prvi put klasifikovali klimatske promene kao "nastajuću pretnju finansijskoj stabilnosti SAD".
Investicije i usvajanje veštačke inteligencije su procvali, čak i sada kada neki stručnjaci upozoravaju na ozbiljne opasnosti. Predsednik Džo Bajden je nedavno potpisao izvršnu naredbu kojom se nalaže saveznim agencijama da preduzmu korake kako bi zaštitili razvoj veštačke inteligencije, koja je u procvatu.
"Greške i pristrasnosti mogu postati još teže za identifikaciju i ispravku kako pristupi veštačke inteligencije postaju sve složeniji, naglašavajući potrebu za oprezom od strane programera tehnologije, firmi u finansijskom sektoru koje je koriste i regulatora koji nadgledaju takve firme", rekao je FSOC.
Popularnost ChatGPT-a i drugih alata veštačke inteligencije, koji koriste velike jezičke modele za identifikaciju obrazaca u podacima i kreiranje teksta i slika, samo je ubrzala interesovanje za veštačku inteligenciju.
(JA/EURACTIV.rs)