Open AI stvorio novi tim koji procenjuje rizike veštačke inteligencije

SAN FRANCISKO - Kalifornijska kompanija Open AI objavila je da je stvorila novi tim koji će biti zadužen za bezbednost modela veštačke inteligencije (AI) i garantovati da oni ne predstavljaju pretnju za čovečanstvo.

Tim stručnjaka nazvan "Pripravnost" (Preparedneš) će predvoditi profesor Tehnološkog instituta u Masačusetsu (MIT) Aleksandar Madri, navodi se na veb stranici kalifornijske firme za razvoj AI.

Zadatak tima je da "prati, procenjuje, predviđa i štiti od rizika" koji mogu da dovedu do globalne katastrofe zbog sve moćnijih modela veštačke inteligencije.

Ovo je treći OpenAI tim koji će biti odgovoran za to da proizvodi kompanije budu u skladu sa bezbednosnim standardima.

Tim "Sistemi bezbednosti" (Safety Systems) je fokusiran na sprečavanje zloupotreba postojećih proizvoda kao što je Čet Dži-Pi-Ti (Ćat GPT), a tim "Super usklađivanje" (Superalignment) razvija bezbednosne standarde za buduće AI modele.