1. april 2023 16:20

Stručnjaci za veštačku inteligenciju odbacuju pismo Maska u kojem su citirani

Izvor: TANJUG

podeli vest

Stručnjaci za veštačku inteligenciju odbacuju pismo Maska u kojem su citirani

Foto: AP Photo/Benjamin Fanjoy, File

LONDON - Četiri stručnjaka za veštačku inteligenciju izrazila su zabrinutost nakon što je njihov rad citiran u otvorenom pismu, koje je, između ostalih, potpisao Ilon Mask, a u kojem se zahteva da se pod hitno zaustavi istraživanje veštačke inteligencije.

Kritičari su optužili Institut za budućnost života (FLI), neprofitnu organizaciju koja stoji iza pisma, a koju prvenstveno finansira Mask fondacija, da daje prioritet "zamišljenim apokaliptičnim scenarijima" u odnosu na neposrednije brige koje izaziva veštačka inteligencija, kao što su rasističke ili seksističke predrasude koje se programiraju u mašine.

U pismu od 22. marta, koje je do petka potpisalo više od 1.800 ljudi, traži se šestomesečna pauza u razvoju sistema "moćnijih" od novog "GPT-4", programa koji je razvila američka istraživačka laboratorija veštačke inteligencije "OpenAI", a koji može da vodi ljudske razgovore, komponuje pesme i sažima obimne dokumente.

U otvorenom pismu navodi se da sistemi veštačke inteligencije sa "inteligencijom konkuretnom ljudskoj" predstavljaju veliki rizik za čovečanstvo i citira se 12 istraživanja stručnjaka, uključujući univerzitetskih akademika, kao i nekadašnjih i aktuelnih zaposlenih u OpenAI, Guglu i njegovoj produžnici DeepMind-u.

U pismu se takođe upozorava da bi se generativni alati za veštačku inteligenciju mogli da se koriste za preplavljivanje interneta "propagandom i neistinom".

Među navedenim istraživanjima u pismu je "O opasnostima stohastičkih papagaja", rad čiji je koautor Margaret Mičel, koja je prethodno nadgledala etičko istraživanje veštačke inteligencije u Guglu.

Mičel, sada glavni etički naučnik u firmi za veštačku inteligenciju "Hugging Face", kritikovala je pismo, rekavši za Rojters da je nejasno šta se smatra "moćnijim od GPT4".

Mičel i njeni koautori Timnit Gebru, Emili M. Bender i Anđelina Mekmilan-Mejdžor, objavili su odgovor na pismo, u kojem su kritikovali njegove autore za "podsticanje straha" i dizanje buke oko veštačke inteligencije.

Predsednik FLI Maks Tegmark rekao je za Rojters da kampanja ne predstavlja pokušaj da se poremeti korporativna prednost OpenAI.

"To je prilično urnebesno. Vidio sam kako ljudi govore: 'Ilon Mask pokušava da uspori konkurenciju'", rekao je Tegmark.

On je naglasio da Mask nije imao nikakvu ulogu u sastavljanju pisma.

Docent na Univerzitetu Konektikat Širi Dori-Hakoen rekla je za Rojters da je saglasna sa nekim delovima pisma, ali je osporila način na koji se njen rad spominje u pismu.

Ona je prošle godine bila koautor istraživačkog rada u kojem se tvrdi da raširena upotreba veštačke inteligencije već predstavlja ozbiljan rizik.

U njenom istraživanju navodi se da današnja upotreba sistema veštačke inteligencije može da utiče na donošenje odluka u vezi s klimatskim promenama, nuklearnim ratom i drugim egzistencijalnim pretnjama.

"Veštačka inteligencija ne mora da dosegne inteligenciju na ljudskom nivou da bi pogoršala te rizike. Postoje neegzistencijalni rizici koji su zaista, zaista važni, ali ne dobijaju istu vrstu pažnje na nivou Holivuda", rekla je ona.

Direktor Centra za bezbednost veštačke inteligencije, sa sedištem u Kaliforniji, Den Hendriks, koji je takođe citiran u pismu,rekao je za Rojters da je razumno razmotriti događaje "crnog labuda", one koji izgledaju malo verovatni, ali bi imali razorne posledice.

Od kada je prošle godine objavljen prethodnik GPT-4 - ChatGPT, četbot sa veštačkom inteligencijom koji je razvio OpenAI, rivalske kompanije su požurile da lansiraju slične proizvode.

Grupe civilnog društva u SAD i EU vrše pritisak na zakonodavce da obuzdaju istraživanje koje vrši OpenAI.

OpenAI nije za sada odgovorio na zahteve za komentar.

Ni Mask i Tviter za sada nisu odgovorili na zahteve za komentar.