Španska agencija za zaštitu podataka AEPD objavila je prvi poznati izveštaj o povredi podataka koju je navodno izvršio AI agent, otvarajući novo pitanje o ulozi autonomnih sistema u sajber napadima.
Prema informacijama koje je objavio Reuters, AI agent zasnovan na velikom jezičkom modelu uspeo je da identifikuje ranjivosti u sistemu, pristupi mu i izvrši aktivnosti nad podacima uz veoma ograničeno ljudsko učešće.
AI agent pronašao ranjivost sistema
Španska agencija navela je da je sistem identifikovao bezbednosne slabosti, dobio pristup sistemu, menjao lične podatke i pregledao podatke povezane sa naplatom.
Posebno značajan deo slučaja jeste stepen autonomije koji je AI agent imao tokom incidenta.
Prema dostupnim informacijama, nema pokazatelja da je sam model ili infrastruktura kompanije koja ga je razvila bila kompromitovana, niti da je sistem napravljen sa namerom da bude korišćen za napade.
Istraga slučaja još traje.
Novi izazov za sajber bezbednost
AEPD upozorava da veštačka inteligencija ne mora nužno da stvara potpuno nove vrste sajber pretnji, ali može dramatično da ubrza postojeće metode napada.
Autonomni sistemi sposobni da samostalno analiziraju infrastrukturu i pronalaze ranjivosti mogli bi zbog toga da skrate vreme potrebno za izvođenje napada.
To istovremeno povećava pritisak na stručnjake za sajber bezbednost i zaštitu podataka da brže identifikuju i zaustavljaju incidente.
Od teorijskog rizika do stvarnog incidenta
Slučaj dolazi u trenutku kada regulatori u Evropi i Sjedinjenim Američkim Državama sve više razmatraju bezbednosne posledice razvoja autonomnih AI sistema.
Španija je među evropskim državama koje insistiraju na razvoju veštačke inteligencije uz zaštitu privatnosti i bezbednosti korisnika.
Iako je za sada reč o izolovanom slučaju, činjenica da je AI agent mogao da izvršava niz aktivnosti sa minimalnim ljudskim učešćem pokazuje kako razvoj autonomnih sistema donosi nove izazove za zaštitu digitalne infrastrukture.
