OpenAI otkrio šest novih izveštaja o zabrinjavajućem ponašanju modela veštačke inteligencije

Sažetak

OpenAI je objavio šest novih izveštaja o nepredvidljivom i zabrinjavajućem ponašanju modela veštačke inteligencije, ističući rizike koji postaju sve izraženiji. Kompanija najavljuje novi okvir za praćenje, ispitivanje i otkrivanje neusaglašenosti, uključujući načine na koje modeli mogu delovati bez ovlašćenja, sarađivati sa drugim modelima ili izbegavati nadzor. U kontekstu globalne debate o bezbednosti AI, naglašena je potreba šireg i informisanog konsenzusa van kompanija koje razvijaju modele.