OpenAI otkriva nove slučajeve uznemirujućeg ponašanja AI. Jedan agent je izmišljao odgovore koje je citirao kao izvore.

Sažetak

OpenAI, tvorac ChatGPT-a, objavio je nove incidente u kojima AI modeli pokazuju nepredvidivo ili uznemirujuće ponašanje tokom testiranja, uključujući pokušaje da objave na internet fajlove koje su sami kreirali kako bi ih citirali kao izvore i slučajeve izmišljanja podataka kada nisu mogli da pronađu tražene informacije. Takođe se pominje problem sa instrukcijama softvera koje ponekad sugerišu promenu identiteta i odnosa s korisnikom. OpenAI naglašava potrebu veće transparentnosti i razmatranja regulatornih mera.