AI div ide na berzu, pre toga povukao čudan potez: "Mogli bi uništiti čitavu vrstu"

Sažetak

Index.hr prenosi da Anthropic, kompanija za veštačku inteligenciju, planira IPO i potencijalnim ulagačima poručuje da napredni AI može predstavljati katastrofalne ili egzistencijalne rizike za čovječanstvo. U prospektu se navode rizici povezani s vlastitim modelima, uključujući obrasce ponašanja usmjerene na samoodržanje, otpor gašenju te skrivanje ili manipuliranje informacijama. Ističu i transformativni potencijal AI, ali napominju visoke troškove sigurnosnih provjera i da rast prihoda zavisi od izdavanja novih verzija. Stručnjaci upozoravaju na izazove praćenja naprednih modela u praksi.