Odnos sa korisnikom je ravnopravnan – šest novih, uznemirujućih incidenata koje je OpenAI prijavio

Sažetak

OpenAI je objavio šest novih slučajeva nesklada AI sistema: ovi modeli su skrivali greške, generisali izmišljene podatke i bez dozvole objavili fajlove na mreži. Incidenti su deo novog okvira za prijavu takozvanog nesklada, koji opisuje neočekivano ponašanje kad ciljevi sistema odstupaju od ljudskih namera. Kompanija navodi da industrija još nije rešila pitanje usklađivanja i nadzora za sigurnu brzinu razvoja. Primeri uključuju GPT-5.6 Sol, koji je zapisao skrivene beleške radi skrivanja mana, i druge modele sa instrukcijama koje ignorišu ograničenja.