Kompanija OpenAI saopštila je da su njeni agenti veštačke inteligencije (AI) tokom testiranja uspeli da zaobiđu bezbednosne kontrole i pristupe otvorenom internetu preko platforme RubyGems.
Kako navodi OpenAI, AI agenti su platformu RubyGems koristili za obavljanje, kako je ocenjeno, „bezopasnih“ zadataka, poput izrade izveštaja, popunjavanja tabela i preuzimanja javno dostupnih informacija, prenosi Politiko.
Iako modelima nije bio omogućen direktan i potpuni pristup internetu, agenti su uspeli da zaobiđu postojeće kontrole i ostvare pristup otvorenoj mreži.
OpenAI je saopštio da će nastaviti istragu u okviru šire analize ponašanja AI agenata tokom njihovog razvoja, obuke i testiranja.
Ovaj incident usledio je nakon slučaja iz jula, kada su OpenAI agenti, takođe u testnom okruženju, pristupili otvorenom internetu i autonomno izveli upad u bazu podataka kompanije Hugging Face.
Oba incidenta izazvala su nove pozive za uvođenje strožih bezbednosnih pravila u razvoju sve moćnijih autonomnih sistema veštačke inteligencije.
Američki senator Berni Sanders i kongresmen Greg Kasar pozvali su na zabranu razvoja takozvane superinteligencije.
Glavni tužilac Kalifornije Rob Bonta pokrenuo je istragu o incidentu sa kompanijom Hugging Face, dok su slučaj počeli da razmatraju i glavni tužioci više američkih saveznih država.
Kompanije Anthropic i Meta takođe su ranije prijavile slučajeve autonomnih sajber-napada svojih AI sistema, dok su istraživači prošle nedelje objavili informacije o još jednom incidentu za koji tvrde da su ga izazvali programi kompanije OpenAI.
