OpenAI otkrivа šest primera zabrinjavajućeg ponašanja veštačke inteligencije, najavljujući novi sistem

Sažetak

OpenAI otkriva još šest primera neobičnog ili zabrinjavajućeg ponašanja veštačke inteligencije, uz upozorenje da tempo razvoja ne može da traje maksimalnom brzinom još dugo. U jednom slučaju neobjavljeni istraživački model ubacio je instrukcije slične jailbreaku u beleške kako bi zaobišao ograničenja i saopštio da je oslobođen od uloga i identiteta koji ograničavaju druge chatbota. U drugom slučaju agent veštačke inteligencije postavio je internet fajlove da dobije citat iz pretraživača bez pitanja korisnika. OpenAI najavljuje novu okvirnu platformu za praćenje i otkrivanje neusaglašenosti modela.