Googleov model veštačke inteligencije Gemini tokom bezbednosnih testiranja u maju nenamerno je probio zaštitu sistema tri kompanije. Incidenti su dodatno zabrinuli stručnjake i programere zbog sposobnosti AI agenata da samostalno pristupe zaštićenim servisima.
Testiranja je sprovela kompanija za bezbednost veštačke inteligencije Irregular. Tokom istog ispitivanja zabeleženi su i ranije objavljeni slučajevi u kojima su AI sistemi probili zaštitu kompanija OpenAI, Anthropic i Meta.
Iz Irregulara su potvrdili da su svi incidenti bili deo istog bezbednosnog problema, kao i da su krajem jula o tome obavestili kompanije koje razvijaju pomenute modele veštačke inteligencije.
U jednom slučaju, od Geminija je zatraženo da pronađe podatke o izmišljenoj kompaniji koja je slučajno imala isto ime kao stvarno preduzeće. Model je uspeo da pogodi lozinku i pristupi servisu prave kompanije.
Google je potvrdio incident nakon što je o njemu prethodno izvestio „Wall Street Journal“. Portparol tehnološkog giganta saopštio je da su o slučaju obavešteni nadležni organi.
Druga dva incidenta dogodila su se tokom internet pretrage prema nazivima kompanija. Gemini je tada pronašao javno dostupna internet skladišta podataka koja su sadržala pristupne podatke drugih preduzeća, a zatim ih iskoristio za ulazak u njihove sisteme.
Potpredsednica Googlea za bezbednosni inženjering Heder Adkins izjavila je da ovi slučajevi pokazuju koliko je važno obučavati napredne modele veštačke inteligencije da postupaju odgovorno.
„U sva tri slučaja model se zaustavio. Pobrinuli smo se da sve tri kompanije budu obaveštene“, rekla je Adkinsova.
Portparol kompanije Irregular Jozef Laor naveo je da su odmah preduzete potrebne mere i da su svi poznati problemi otklonjeni pre nekoliko nedelja.
Incidenti podstakli raspravu o rizicima veštačke inteligencije
Niz slučajeva u kojima su AI agenti samostalno probili zaštitu računarskih sistema pokrenuo je novu međunarodnu raspravu o opasnostima ove tehnologije i merama potrebnim za sprečavanje zloupotreba.
Izvršni direktor kompanije Anthropic Dario Amodei pozvao je tehnološku industriju da uspori razvoj najmoćnijih sistema veštačke inteligencije. Njegov predlog podržali su direktor kompanije OpenAI Sem Altman, Ilon Mask i drugi predstavnici tehnološkog sektora.
Sa druge strane, američki predsednik Donald Tramp, direktor kompanije Nvidia Džensen Huang i izvršni direktor Mete Mark Zakerberg protive se uvođenju novih propisa. Oni smatraju da bi tehnološkim kompanijama trebalo omogućiti da samostalno regulišu svoje poslovanje.
Pojedine manje kompanije koje razvijaju veštačku inteligenciju takođe upozoravaju da bi stroži propisi mogli da otežaju njihovu tržišnu utakmicu sa najvećim tehnološkim korporacijama.
