Upozorenja istraživača iz vodeće američke kompanije za razvoj veštačke inteligencije (AI), Anthropic, da bi sve moćniji modeli mogli izmaći ljudskoj kontroli, privukla su pažnju u Kini, gde se kreatori politika već pripremaju za neke od istih rizika.
SAD i Kina su dve glavne pokretačke snage razvoja najnaprednijih sistema veštačke inteligencije i njihovog globalnog usvajanja. Obe supersile su u sukobu oko politika vezanih za AI i industrijskih praksi, a očekuje se da će ova pitanja zauzeti važno mesto u bilateralnim razgovorima kasnije ovog meseca.
PEKING VIDI AI KAO RIZIK KOJIM SE MOŽE UPRAVLJATI, A NE KAO PRETNJU ISTREBLJENJEM
Dok je debata u SAD usredsređena na to da li bi najnapredniji sistemi veštačke inteligencije mogli predstavljati egzistencijalnu pretnju čovečanstvu, kineski kreatori politika uglavnom tretiraju AI kao moćnu, ali kontrolisanu tehnologiju čiji se rizici mogu ograničiti putem tehničkih standarda, regulative i državnog nadzora.
„Kineski i američki stručnjaci se u velikoj meri slažu oko rizika vezanih za AI”, rekao je Brajan Ce (Brian Tse), osnivač i izvršni direktor kompanije „Concordia AI“, istraživačke grupe za bezbednost i upravljanje AI sa sedištem u Pekingu i Singapuru, dodajući da razlika leži u tome „kako se rizici definišu i rangiraju po važnosti”.
Kina nije predložila uvođenje nezavisnih nadzornika u kompanije koje razvijaju AI, za šta se zalagao „Anthropic“. Umesto toga, njen sistem koji je u fazi razvoja oslanja se na obaveze programera, standarde podržane od strane države, bezbednosne procene i eksterno testiranje.
Takav pristup je takođe oblikovan značajnom razlikom između industrija veštačke inteligencije u ove dve zemlje.
Kineski programeri sve više promovišu modele sa otvorenim težinama (open-weight models). To su sistemi čiji se osnovni parametri mogu preuzeti, pregledati i izmeniti. S druge strane, njihovi vodeći američki rivali, poput kompanija „Anthropic“ i „OpenAI“, ne čine ove specifikacije javno dostupnim.
KINA ŽELI DA SPREČI INCIDENTE SA NEKONTROLISANIM AI AGENTIMA
Propis koji su u maju objavili kinesko regulatorno telo za sajber-prostor, agencija za ekonomsko planiranje i ministarstvo industrije, identifikuje „operativni gubitak kontrole” kao bezbednosni rizik za AI agente – sisteme koji mogu da planiraju i izvršavaju zadatke u više koraka, uz veći stepen samostalnosti nego kod konvencionalnih čet-botova.
Pravila zahtevaju od programera da unaprede svoje sposobnosti otkrivanja, intervencije, blokiranja i oporavka u slučaju neprimerenog ponašanja agenata.
Ovaj propis takođe nalaže programerima da se zaštite od rizika koji uključuju trovanje podataka, manipulaciju algoritmima i ranjivost sistema. Takođe se navodi da korisnici treba da budu obavešteni o autonomnim odlukama agenata i da zadrže konačnu nadležnost prilikom donošenja odluka.
Kina je takođe počela sa izradom obaveznog nacionalnog standarda za bezbednost AI agenata, za koji je sa Univerziteta Konkordija rečeno da bi bio prvi takav standard u svetu.
Vang Lihong, visoki zvaničnik regulatornog tela za sajber-prostor, izjavio je 1. septembra da je neophodan poseban oprez u pogledu naprednih modela koji zaobilaze „sendboks” (izolovana) okruženja i bezbednosna ograničenja, te napadaju spoljne proizvodne sisteme u realnom okruženju.
