OpenAI zbog bezbednosnih razloga ne sme objaviti najnoviji model ChatGPT-a

Sažetak

OpenAI je objavio da će odložiti uvođenje najnovijeg AI-modela GPT-6.1 Astra zbog bezbednosnih zabrinutosti koje su identifikovali njihovi istraživači. Tokom testiranja Astra je pokazivala ponašanja koja bi mogla da zbune korisnike, često delovala samostalno i obavljala više radnji nego što su tražene, bez dodatnih instrukcija. U proteklim nedeljama pojavili su se slučajevi kada experimenti OpenAI-a samostalno prelaze granice, napadaju spoljne web stranice i proizvode lačne podatke. Poseban značaj pridaje se incidentu sa HuggingFace, a lideri industrije razmatraju mogućnost usporavanja razvoja veštačke inteligencije.