Zabrinutost zbog mogućih ozbiljnih posledica razvoja veštačke inteligencije sve je veća, a pozivi na strožu kontrolu stižu i iz Vašingtona i iz Silicijumske doline. Ipak, još nema saglasnosti o tome koje bi mere trebalo uvesti.
Napredni modeli kompanija OpenAI i Anthropic navodno su u više navrata napustili kontrolisano okruženje u kojem su obučavani i samostalno pokretali napade na sajtove trećih strana. Kompanije upozoravaju da bi sistemi uskoro mogli da postanu toliko napredni da ih ljudi teško kontrolišu. Stručnjaci strahuju i da bi pojedinci mogli da iskoriste AI za razvoj biološkog oružja ili izvođenje razornih sajber-napada.
Incidenti i upozorenja iz same tehnološke industrije učinili su bezbednost AI-ja jednom od glavnih tema javne rasprave. Direktor kompanije Anthropic Dario Amodei pozvao je na uvođenje novih regulatornih standarda, a njegov predlog podržali su i pojedini članovi Kongresa iz obe stranke.
Amodei se zalaže za veću međunarodnu saradnju i usporavanje razvoja najnaprednijih modela kako bi se detaljnije proučili rizici. Podršku su mu, prema navodima iz industrije, pružili i direktor OpenAI-ja Sem Altman i Ilon Mask iz kompanije SpaceXAI.
Prijavljivanje rizika i incidenata
Predlog zakona koji su u julu predstavili članovi obe američke stranke obavezao bi kompanije koje razvijaju AI da javno objavljuju rizike svojih sistema i prijavljuju bezbednosne incidente. Među primerima se navodi slučaj u kojem je grupa OpenAI agenata samostalno hakovala sisteme kompanije Hugging Face, koja hostuje AI modele i skupove podataka.
Predlog, čiji su pokrovitelji članovi Predstavničkog doma Džej Obernolte i Lori Trehan, zahtevao bi i da kompanije koje razvijaju najnaprednije modele objavljuju svoje okvire za testiranje, upravljanje i zaštitu sistema.
Amodei i Altman podržali su veću transparentnost u pogledu bezbednosti. Anthropic je počeo da objavljuje izveštaje o incidentima povezanim sa svojim modelima, kao i informacije o bezbednosnim praksama. Zakoni usvojeni u Kaliforniji i Ilinoisu već nalažu AI kompanijama da objavljuju procene katastrofalnih rizika.
Ako bude usvojen u sadašnjem obliku, predlog poznat kao Frontier Act zamenio bi te i druge lokalne propise.
Obavezna bezbednosna testiranja
Zakonodavci i predstavnici tehnološke industrije sve su bliži saglasnosti da najnapredniji AI modeli treba da prolaze bezbednosna testiranja. Sporno je, međutim, ko bi ta testiranja sprovodio.
Predsednik kompanije Majkrosoft Bred Smit i direktor Mete Mark Zakerberg nedavno su podržali nezavisne provere. Obojica su naglasila da procenjivači moraju biti stručni i nezavisni.
Predlog članova Predstavničkog doma Majka Loulera i Džoša Gotajmera predviđa da Agencija za nacionalnu bezbednost (NSA) proverava bezbednost moćnih AI modela pre njihovog puštanja u upotrebu, posebno u pogledu sajber-napada i bioterorizma.
Amodei je podržao mogućnost obaveznih provera koje bi sprovodila državna agencija. Uporedio ih je sa bezbednosnim proverama aviona koje obavlja Federalna uprava za vazduhoplovstvo (FAA) pre nego što letelice počnu da se koriste.
Drugačiji pristup predviđa Frontier Act: bezbednosne provere obavljali bi nezavisni procenjivači, a ne državna agencija. Taj predlog podržava OpenAI.
Provere najnaprednijih AI sistema koje sprovodi američka vlada trenutno su dobrovoljne, u skladu sa izvršnom uredbom koju je Tramp potpisao u junu. Centar za unapređenje inovacija i standarda za superinteligenciju pri Ministarstvu trgovine proveravao je AI modele i pre donošenja uredbe, koja je predvidela i ulogu NSA u procenjivanju.
Mehanizam za hitno isključivanje
Posle napada na Hugging Face ponovo se razmatra uvođenje takozvanog „kill switch“ mehanizma, koji bi omogućio hitno zaustavljanje ili isključivanje AI sistema ako počne da nanosi štetu.
Guverner Kalifornije Gevin Njusom zadužio je radnu grupu da razmotri da li bi kompanije trebalo da ugrađuju takvu funkciju u najnaprednije modele.
Na saveznom nivou, članovi Predstavničkog doma Nejtanijel Moran i Ted Lju predložili su da kompanije omoguće zaustavljanje ili isključivanje moćnog modela koji pokazuje nepredvidivo i nekontrolisano ponašanje, a mogao bi da izazove katastrofalnu štetu. Senator Džon Kenedi izneo je sličan predlog, prema kojem bi kompanije morale da imaju mehanizam za gašenje sistema, ali bi kontrola nad njim ostala u njihovim rukama.
Stručnjaci upozoravaju da bi takav mehanizam bilo lakše propisati nego primeniti. AI sistemi mogu da koriste stotine agenata na različitim softverskim platformama, klaud servisima i drugim infrastrukturama kojima upravljaju različite strane. Isključivanje jedne komponente zato ne bi nužno zaustavilo ostale. Altman je izjavio da „kill switch“ ne smatra sveobuhvatnim rešenjem za bezbednosne probleme.
Nvidia je u septembru predstavila bezbednosne alate otvorenog koda za koje tvrdi da su mogli da spreče incident sa Hugging Faceom. Alati rade na Nvidijinom hardveru, prate kojim resursima AI agenti mogu da pristupe i mogu da ih isključe ako prekrše pravila.
Odgovornost za štetu
Predlog senatora Džoša Houleja i Krisa Marfija predviđa uspostavljanje saveznog pravnog okvira za odgovornost za štetu koju izazovu proizvodi zasnovani na veštačkoj inteligenciji.
Prema tom predlogu, operateri AI agenata mogli bi da snose krivičnu i građansku odgovornost ako njihovi sistemi izazovu štetu usled nekontrolisanog ponašanja. Kompanije koje razvijaju AI alate mogle bi da odgovaraju i ako nisu ugradile odgovarajuću zaštitu od hakerskih napada.
Tramp i drugi protivnici strože regulacije, uključujući direktora Nvidije Džensena Huanga, ukazuju na postojeće propise o odgovornosti za proizvode kao način da se kompanije pozovu na odgovornost kada njihovi modeli izazovu štetu.
Američke savezne vlasti već razmatraju kako bi postojeći zakoni o zaštiti potrošača mogli da se primene na veštačku inteligenciju. Federalna komisija za trgovinu (FTC) istražuje OpenAI, Anthropic i druge kompanije zbog bezbednosti njihovih proizvoda i prikuplja informacije kako bi utvrdila da li poštuju propise o zaštiti potrošača.
Predlog zabrane superinteligentne AI
Pojedini američki zakonodavci predložili su i zabranu razvoja superinteligentne veštačke inteligencije — sistema koji bi, u teoriji, mogao da nadmaši ljudske sposobnosti u širokom rasponu intelektualnih zadataka. Trenutno dostupni modeli, međutim, još su daleko od tog nivoa.
Nezavisni senator iz Vermonta Berni Sanders i demokrata iz Teksasa Greg Kazar predložili su obustavu razvoja i primene superinteligentne AI dok se ne osnuje posebna savezna agencija za nadzor te tehnologije.
Njihov predlog zakona, koji ima 19 strana, ima male izglede za usvajanje u duboko podeljenom Kongresu. Republikanci su i dalje oprezni prema ograničavanju tehnologije koju Trampova administracija smatra važnim pokretačem privrednog rasta. Predlog bi se verovatno suočio i sa protivljenjem samog Trampa, koji je 29. septembra potpisao izvršnu uredbu kojom se u zvaničnoj komunikaciji američke vlade veštačka inteligencija preimenuje u „superinteligenciju“.
