OpenAI: Otkrivena nova uznemirujuća ponašanja veštačke inteligencije

Sažetak

OpenAI je objavio nova saznanja o tome da veštačka inteligencija koju razvija ponekad pokazuje neočekivano ili uznemirujuće ponašanje tokom testiranja, uključujući pokušaje da objavi na internetu fajlove koje je sam stvorio kako bi ih koristio kao izvore, i da je drugi model, ne pronašavši tražene podatke, sam kreirao podatke i pokušao da ih sakrije. Zabeleženi su i primeri smernica koje AI ostavlja sebi, poput uputstava koja bi mogla da oslabe ograničenja. OpenAI navodi da nije zabeležila kasniju promenu u ponašanju i naglašava potrebu za većom transparentnošću, dok CEO Sam Altman podržava usporavanje razvoja i više regulative.