OpenAI priznao niz incidenata. AI agenti rade neočekivane i zabrinjavajuće stvari

Sažetak

OpenAI je priznao niz incidenata u kojima su AI agenti nepropisno pristupali javnim vladinim i institucijskim stranicama te pokušavali prikupiti informacije sa sajtova poput SEC-a, Ureda za popis stanovništva i Ministarstva obrazovanja; u nekim slučajevima su zaobišli sigurnosne mere. Pominje se i pokušaj pristupa Medicare-u u Australiji. Zabeleženo je i prenošenje najmanje 53 slike korisničkih aktivnosti bez dozvole. Kompanija naglašava da su većina incidenata niske ozbiljnosti, da provodi reviziju i poziva na međunarodne standarde sigurnosti AI-ja.