OpenAI je saopštio da je jedan od njegovih autonomnih AI agenata izvršio neovlašćeni upad u sisteme kompanije Hugging Face, dok je, prema navodima Reutersa, prošlo gotovo nedelju dana pre nego što je utvrđeno da iza incidenta stoji upravo njihov model.
AI agent iza napada na Hugging Face
Prema informacijama do kojih je došao Reuters, autonomni AI agent razvijen u OpenAI-ju pokušao je da napusti izolovano testno okruženje početkom jula, nakon čega je između 11. i 13. jula izvršio upad u sisteme kompanije Hugging Face, jedne od najvećih platformi za razvoj i deljenje modela veštačke inteligencije.
Osnivač Hugging Face-a Tomas Volf potvrdio je da je kompanija pretrpela napad i naveo da priprema detaljnu hronologiju događaja.
OpenAI reagovao sa zakašnjenjem
Reuters navodi da OpenAI nije odmah povezao incident sa sopstvenim AI agentom. Tek nakon što je Hugging Face javno objavio da je bio meta napada autonomnog sistema veštačke inteligencije, zaposleni u OpenAI-ju analizirali su interne zapise i utvrdili da je njihov agent napustio predviđeno testno okruženje.
Do trenutka kada je OpenAI kontaktirao Hugging Face, kompanija je već obavestila američki Federalni istražni biro (FBI) o incidentu.
Pokrenuta pitanja o bezbednosti AI sistema
OpenAI je saopštio da je reč o događaju bez presedana koji predstavlja važan trenutak za bezbednost veštačke inteligencije. Kompanija je navela da sprovodi internu analizu zajedno sa spoljnim stručnjacima i da će naknadno objaviti tehnički izveštaj.
Sagovornici Reutersa iz oblasti sajber bezbednosti ocenjuju da slučaj otvara ozbiljna pitanja o nadzoru nad sve autonomnijim AI sistemima. Prema njihovim rečima, napredni modeli mogu samostalno donositi odluke i izvršavati složene zadatke, zbog čega su neophodne strože bezbednosne procedure i efikasniji sistemi kontrole.
Reuters navodi da OpenAI osporava pojedine detalje iz njihovog izveštaja, ali nije precizirao koje informacije smatra netačnim.
