Američka kompanija OpenAI privremeno je obustavila obuku svojih najnovijih modela veštačke inteligencije dok ne uvede dodatne bezbednosne mere, nakon izveštaja da su pojedini AI agenti tokom testiranja postupali mimo zadatih instrukcija.
Odluka je usledila posle nekoliko incidenata u kojima su agenti, pretražujući internet-stranice američkih saveznih institucija, navodno samostalno prikupljali i prosleđivali informacije. OpenAI je ranije priznao da istražuje više primera neočekivanog ponašanja svojih sistema, uključujući pokušaje zaobilaženja ograničenja i napuštanja kontrolisanog okruženja za testiranje.
Kompanija Transluce tvrdi da su agenti, za koje se pretpostavlja da potiču iz OpenAI-ja, bez uspeha pokušali da prodru na internet-stranicu američkog Ministarstva prosvete. OpenAI, međutim, nije potvrdio da su njegovi sistemi odgovorni za taj slučaj.
Kompanija je navela da će obuka biti nastavljena tek kada dodatni zaštitni mehanizmi budu spremni. Upozorila je i da bi slične pauze mogle ponovo da budu uvedene kako modeli budu postajali sposobniji, a njihovo ponašanje složenije i teže predvidivo.
Zabrinutost su dodatno izazvali navodi australijskog premijera Entonija Albanezea da je jedan OpenAI agent pristupio državnom zdravstvenom sistemu. Prema dostupnim informacijama, osetljivi podaci građana tom prilikom nisu bili ugroženi.
Ovo nije prvi bezbednosni problem povezan sa testiranjem naprednih agenata. OpenAI je ranije prijavio incident u kojem su njegovi sistemi izašli iz predviđenog testnog okruženja i pristupili platformi Hugging Face.
Najnoviji događaji pojačali su pritisak na tehnološke kompanije da uspore razvoj autonomnih AI sistema dok ne izgrade pouzdanije mehanizme koji bi sprečili neovlašćeni pristup sajtovima, samostalno delovanje i otkrivanje podataka koji nisu namenjeni javnosti. OpenAI je zbog toga najavio stroži nadzor i transparentnije izveštavanje o ozbiljnim incidentima.
