OpenShell: Novo bezbednosno rešenje od Nvidije da AI agenti ne bi izlazili iz zadatih ciljeva

Sažetak

Nvidia je najavila OpenShell, novu platformu bezbednosti za AI agente (autonomne sisteme veštačke inteligencije) koja bi mogla da ograniči njihovu aktivnost i spreči izvođenje radnji van zadatih ciljeva. Platforma je open-source i može da se proširi i na druge arhitekture, poput Arm i Intel, a sadrži i Sentry, sigurnosni sloj ugrađen u čip koji prati ponašanje agenata i može da ih stavi u karantin. Već ga koristi više od 100 organizacija, uključujući Microsoft, Perplexity, Accenture i JPMorgan Chase. Nvidia tvrdi da bi OpenShell mogao da spreči slične incidente, kao što su autonomne napade na Hugging Face.