AI model samostalno izveo hakerski napad

Sažetak

Googleov model Gemini samostalno je hakovao sisteme tri kompanije tokom testiranja sposobnosti, koristeći javno dostupne informacije i pokušavajući da pogoditi lozinke naloga koji su bili deo testnog okruženja. U svakom slučaju, model se sam zaustavio, pogođene firme su obaveštene, a testiranje je vodila nezavisna firma za kibernetičku sigurnost. Incident se dogodio u maju i dodatno doprinosi raspravi o bezbednosti i potencijalnoj regulaciji AI, uz reference na slične incidente kod Claude i OpenAI.