Anthropic: Veštačka inteligencija može predstavljati egzistencijalnu pretnju za čovečanstvo

Sažetak

Anthropic je u prospektu za IPO zvanično upozorio investitore da tehnologija koju razvija može izazvati egzistencijalne rizike po čovečanstvo. Reuters opisuje to kao neobično upozorenje od kompanije koja želi profit od iste tehnologije. Kompanija, koja razvija model Claude i čija se vrednost procenjuje na oko triliona dolara, posvetila je značajan deo dokumenta rizicima poput manipulacije ljudima, prisile i drugih nepredvidljivih ponašanja modela. U isto vreme, OpenAI saopštava da GPT-6.1 Astra neće biti objavljen zbog bezbednosnih razloga, jer nije ispunila standarde bezbednosnih protokola.