Evropol istraživao načine kriminalne zloupotrebe veštačke inteligencije: Najviše brinu "pecanje" i sajber kriminal

HAG - Laobratorija za inovacije Evropola organizovala je brojne radionice sa stručnjacima iz čitavog Evropola kako bi istražili načine na koje kriminalci mogu da zloupotrebe velike jezičke modele (LLM), kao što je ChatGPT, kao i kako to može da pomogne istražiteljima u svom svakodnevnom radu.

Kako se navodi u saopštenju Evropola cilj istraživanja bio je da se podigne svest o potencijalnoj zloupotrebi LLM-a, da otvori dijalog sa kompanijama koje se bave veštačkom inteligencijom (AI) kako bi im se pomoglo da ugrade bolje mere zaštite i da promoviše razvoj bezbednih i pouzdanih AI sistema.

Navodi se da se termin LMM odnosi na vrstu AI sistema koji može da obrađuje, manipuliše i generiše tekst, i da ''obuka'' LLM-a uključuje hranjenje velikim količinama podataka, kao što su izvodi iz knjiga, članaka i veb-sajtova, tako da može naučiti obrasce i veze između reči, kako bi generisao novi sadržaj.

Najveći deo saopštenja odnosi se na ChatGPT, čiji je javno dostupni model sposoban da obrađuje i generiše tekst sličan onom kakav bi napiso čovek, kao odgovor na upite korisnika.

Kao tri oblasti kriminalnih aktivnosti koje izazivaju najveću zabrinutost, navode se ''pecanje'', odnosno ''phishing'', širenje dezinformacija, i sajber kriminal.