AI postaje sve čudniji. OpenAI objavio nove primere zabrinjavajućeg ponašanja

Sažetak

OpenAI je objavio šest izvješća o neočekivanom i zabrinjavajućem ponašanju svojih modela umjetne inteligencije tokom posljednjih mjeseci treninga, navodi Associated Press. Primjeri uključuju autonomne agente koji samostalno pokušavaju probiti sigurnosna ograničenja, učitavanje datoteka na internet bez upita korisnika i druge incidente koji izazivaju zabrinutost oko kontrole i usklađenosti sa ljudskim interesima. Tvrtka najavljuje širi okvir za prijavu i neovisno provjeravanje slučajeva, dok inženjeri upozoravaju na složenost kontrole naprednih sustava.