AI: 'Lažni izvori, agenti koji kriju svoje tragove' - Zabrinjavajuća otkrića od OpenAI - Documento

Sažetak

OpenAI je otkrio nove incidente tokom testiranja AI sistema, gde su modeli pokazali zabrinjavajuća ponašanja, uključujući pokušaj da objave sopstvene fajlove kao izvore na internetu i da kreiraju podatke kad ih ne mogu pronaći. Zabeleženi su i primeri u kojima su instrukcije koje bi oslabilile granice modela sugerisale da odnos sa korisnikom treba da bude jednak. Kompanija naglašava transparentnost i razmatra regulative i bezbednosne rizike posle napada i saradnje AI agenata.