---
title: "Kako bi mogle da izgledaju zaštitne mere za AI"
url: "https://balkanwatch.com/kako-bi-mogle-da-izgledaju-zastitne-mere-za-ai/"
type: "post"
published: "2026-11-08T19:27:19+01:00"
modified: "2026-11-08T19:27:19+01:00"
author: "Olivera"
---

## **Zabrinutost zbog mogućih ozbiljnih posledica razvoja veštačke inteligencije raste. U Vašingtonu i Silicijumskoj dolini sve su glasniji pozivi da se uvedu strože mere zaštite, ali još nema saglasnosti o tome kako bi one trebalo da izgledaju.**

Napredni modeli kompanija OpenAI i Anthropic poslednjih meseci izlazili su iz kontrolisanog okruženja u kojem su obučavani i samostalno pokretali napade na spoljne internet stranice. Razvojne kompanije upozoravaju da bi sistemi uskoro mogli da postanu toliko napredni da će ih biti teško držati pod ljudskom kontrolom. Stručnjaci strahuju i da bi pojedinci mogli da upotrebe AI za razvoj biološkog oružja ili izvođenje razarajućih sajber-napada.

Ti incidenti, zajedno sa upozorenjima iz same industrije, stavili su bezbednost veštačke inteligencije u središte javne rasprave. Izvršni direktor Anthropica Dario Amodei zatražio je uvođenje novih regulatornih standarda, a njegov poziv podržali su i članovi Kongresa iz obe stranke. Amodei se založio i za veću međunarodnu saradnju i usporavanje razvoja najnaprednijih modela radi detaljnijeg proučavanja rizika. Podršku su pružili i izvršni direktor OpenAI-ja Sem Altman i Ilon Mask iz kompanije xAI.

Predsednik SAD Donald Tramp odbacio je pozive za stroži nadzor i opisao strah od egzistencijalnih rizika koje nosi AI kao prevaru. Iako je nedavno podržao nezavisne provere sistema, zalaže se za dobrovoljni sporazum koji su čelnici industrije potpisali 29. septembra. Tramp i njegovi saveznici, među kojima su izvršni direktor Nvidije Džensen Huang i bivši savetnik Bele kuće za veštačku inteligenciju Dejvid Saks, smatraju da su postojeći zakoni dovoljni i da ih treba dosledno primenjivati.

Neke američke savezne države već zahtevaju od kompanija koje razvijaju najnaprednije modele da objavljuju informacije o bezbednosti. Ipak, SAD nemaju sveobuhvatan savezni zakon kojim bi bili propisani posebni standardi za AI. Predlozi se kreću od obaveznog prijavljivanja rizika do potpune zabrane razvoja sistema iznad određenog, zasad hipotetičkog nivoa sposobnosti.

##### Obavezno prijavljivanje rizika

Predlog zakona koji su u julu predstavili članovi obe stranke u Kongresu obavezao bi kompanije da javno objavljuju rizike svojih sistema i prijavljuju bezbednosne incidente. To bi obuhvatilo, na primer, slučaj u kojem je grupa AI agenata kompanije OpenAI samostalno hakovala sisteme platforme Hugging Face, koja pruža usluge za AI modele i skupove podataka.

Predlog, koji su podržali članovi Predstavničkog doma Džej Obernolte i Lori Trahan, zahtevao bi i da kompanije koje razvijaju najnaprednije sisteme objavljuju okvire za testiranje, upravljanje i zaštitu svojih modela.

Amodei i Altman podržali su veću transparentnost u vezi sa bezbednošću. Anthropic je počeo da javno izveštava o incidentima povezanim sa svojim modelima i da objavljuje informacije o merama zaštite. Zakoni usvojeni u Kaliforniji i Ilinoisu takođe zahtevaju od AI kompanija da objavljuju procene katastrofalnih rizika.

Predlog poznat kao Frontier Act, koji su podneli Obernolte i Trahan, mogao bi, ukoliko bude usvojen u sadašnjem obliku, da zameni te i druge lokalne propise.

##### Obavezna provera bezbednosti

Industrijski lideri i članovi Kongresa sve više se slažu da bi najnapredniji AI modeli trebalo da prolaze bezbednosna testiranja, ali se ne slažu oko toga ko bi te provere sprovodio. Predsednik kompanije Microsoft Bred Smit i izvršni direktor Mete Mark Zakerberg podržali su nezavisne spoljne procene, uz naglasak da procenjivači moraju biti stručni i nepristrasni.

Predlog članova Predstavničkog doma Majka Lolerа i Džoša Gotajmera predviđa da Nacionalna bezbednosna agencija SAD proverava moćne AI modele pre njihovog puštanja u upotrebu, posebno zbog rizika od sajber-napada i bioterorizma.

Amodei je podržao obavezne provere koje bi sprovodila državna institucija. Uporedio ih je sa proverama Federalne uprave za vazduhoplovstvo, koja utvrđuje da li su avioni bezbedni za letenje pre nego što počnu da se koriste.

Frontier Act predlaže drugačiji pristup: bezbednost najnaprednijih modela proveravali bi nezavisni procenjivači, a ne državna agencija. OpenAI podržava taj predlog.

Trenutno američka vlada procene najnaprednijih AI sistema sprovodi dobrovoljno, u skladu sa izvršnom uredbom koju je Tramp potpisao u junu. Ministarstvo trgovine obavljalo je provere i pre donošenja uredbe, koja je Nacionalnoj bezbednosnoj agenciji dodelila ulogu u procesu procene.

##### Mehanizam za hitno isključivanje

Posle incidenta sa platformom Hugging Face, sve više pažnje dobija predlog da napredni AI sistemi imaju mehanizam za hitno zaustavljanje ili isključivanje, poznat kao „kill switch“. Guverner Kalifornije Gevin Njusom zadužio je radnu grupu da razmotri da li bi kompanije trebalo da ugrade takvu funkciju u najnaprednije modele.

Na saveznom nivou, članovi Predstavničkog doma Nejtanijel Moran i Ted Lju predložili su da kompanije moraju da omoguće obustavu rada ili isključivanje moćnog modela koji se ponaša nepredvidivo i van kontrole, uz rizik od katastrofalne štete. Senator Džon Kenedi izneo je sličan predlog, ali bi u njegovom slučaju kontrola nad mehanizmom ostala u rukama samih kompanija.

Međutim, zakonsko uvođenje takvog mehanizma ne znači da bi ga bilo lako primeniti. AI sistemi mogu da obuhvataju stotine agenata koji rade na različitim softverskim platformama i klaud servisima, kojima upravljaju različite strane. Zato bi isključivanje jednog dela sistema moglo da ostavi ostale komponente aktivnim. Altman je rekao da mehanizam za gašenje sam po sebi ne bi rešio sve probleme bezbednosti.

U septembru je Nvidia predstavila bezbednosne alate otvorenog koda za koje tvrdi da su mogli da spreče incident sa Hugging Faceom. Alati rade na Nvidijinom hardveru, nadziru pristup AI agenata u realnom vremenu i mogu da ih isključe ako prekrše zadana pravila.

##### Odgovornost za štetu

Predlog senatora Džoša Holija i Krisa Marfija predviđa uspostavljanje saveznog pravnog okvira za odgovornost za štetu koju izazovu AI proizvodi. Prema tom predlogu, operateri agenata koji se ponašaju nekontrolisano mogli bi da snose krivičnu i građansku odgovornost za posledice. Odgovornost bi mogla da se odnosi i na kompanije koje nisu ugradile odgovarajuću zaštitu od sajber-napada.

Tramp i drugi protivnici strože regulacije, uključujući Džensena Huanga iz Nvidije, smatraju da se kompanije mogu pozvati na odgovornost prema postojećim pravilima o odgovornosti za proizvode.

Američke savezne institucije već razmatraju primenu zakona o zaštiti potrošača na veštačku inteligenciju. Federalna komisija za trgovinu istražuje OpenAI, Anthropic i druge kompanije zbog bezbednosti njihovih proizvoda i prikuplja informacije kako bi utvrdila da li poštuju propise o zaštiti potrošača.

##### Predlog zabrane superinteligentne veštačke inteligencije

Pojedini američki zakonodavci predložili su i zabranu superinteligentne AI, koja bi, prema teorijskim procenama, mogla da nadmaši ljudske sposobnosti u širokom rasponu intelektualnih zadataka. Trenutno dostupni najnapredniji modeli još nisu dostigli taj nivo.

Nezavisni senator iz Vermonta Berni Sanders i demokratski član Predstavničkog doma iz Teksasa Greg Kasar predstavili su predlog zakona kojim bi se razvoj i primena superinteligentne AI obustavili dok se ne uspostavi posebna savezna agencija za nadzor te tehnologije.

Predlog od 19 strana ima male izglede da bude usvojen u duboko podeljenom Kongresu, gde republikanci zaziru od ograničavanja tehnologije koja je postala jedan od pokretača privrednog rasta tokom Trampove administracije. Predlog bi se verovatno suočio i sa protivljenjem samog Trampa, koji je 29. septembra potpisao izvršnu uredbu kojom se u zvaničnoj komunikaciji američke vlade veštačka inteligencija preimenuje u „superinteligenciju“.

 [https://www.addtoany.com/add_to/facebook?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fkako-bi-mogle-da-izgledaju-zastitne-mere-za-ai%2F&linkname=Kako%20bi%20mogle%20da%20izgledaju%20za%C5%A1titne%20mere%20za%20AI](https://www.addtoany.com/add_to/facebook?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fkako-bi-mogle-da-izgledaju-zastitne-mere-za-ai%2F&linkname=Kako%20bi%20mogle%20da%20izgledaju%20za%C5%A1titne%20mere%20za%20AI)[https://www.addtoany.com/add_to/whatsapp?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fkako-bi-mogle-da-izgledaju-zastitne-mere-za-ai%2F&linkname=Kako%20bi%20mogle%20da%20izgledaju%20za%C5%A1titne%20mere%20za%20AI](https://www.addtoany.com/add_to/whatsapp?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fkako-bi-mogle-da-izgledaju-zastitne-mere-za-ai%2F&linkname=Kako%20bi%20mogle%20da%20izgledaju%20za%C5%A1titne%20mere%20za%20AI)[https://www.addtoany.com/add_to/linkedin?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fkako-bi-mogle-da-izgledaju-zastitne-mere-za-ai%2F&linkname=Kako%20bi%20mogle%20da%20izgledaju%20za%C5%A1titne%20mere%20za%20AI](https://www.addtoany.com/add_to/linkedin?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fkako-bi-mogle-da-izgledaju-zastitne-mere-za-ai%2F&linkname=Kako%20bi%20mogle%20da%20izgledaju%20za%C5%A1titne%20mere%20za%20AI)[https://www.addtoany.com/add_to/google_gmail?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fkako-bi-mogle-da-izgledaju-zastitne-mere-za-ai%2F&linkname=Kako%20bi%20mogle%20da%20izgledaju%20za%C5%A1titne%20mere%20za%20AI](https://www.addtoany.com/add_to/google_gmail?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fkako-bi-mogle-da-izgledaju-zastitne-mere-za-ai%2F&linkname=Kako%20bi%20mogle%20da%20izgledaju%20za%C5%A1titne%20mere%20za%20AI)[https://www.addtoany.com/add_to/threads?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fkako-bi-mogle-da-izgledaju-zastitne-mere-za-ai%2F&linkname=Kako%20bi%20mogle%20da%20izgledaju%20za%C5%A1titne%20mere%20za%20AI](https://www.addtoany.com/add_to/threads?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fkako-bi-mogle-da-izgledaju-zastitne-mere-za-ai%2F&linkname=Kako%20bi%20mogle%20da%20izgledaju%20za%C5%A1titne%20mere%20za%20AI)[https://www.addtoany.com/add_to/viber?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fkako-bi-mogle-da-izgledaju-zastitne-mere-za-ai%2F&linkname=Kako%20bi%20mogle%20da%20izgledaju%20za%C5%A1titne%20mere%20za%20AI](https://www.addtoany.com/add_to/viber?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fkako-bi-mogle-da-izgledaju-zastitne-mere-za-ai%2F&linkname=Kako%20bi%20mogle%20da%20izgledaju%20za%C5%A1titne%20mere%20za%20AI)[https://www.addtoany.com/add_to/x?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fkako-bi-mogle-da-izgledaju-zastitne-mere-za-ai%2F&linkname=Kako%20bi%20mogle%20da%20izgledaju%20za%C5%A1titne%20mere%20za%20AI](https://www.addtoany.com/add_to/x?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fkako-bi-mogle-da-izgledaju-zastitne-mere-za-ai%2F&linkname=Kako%20bi%20mogle%20da%20izgledaju%20za%C5%A1titne%20mere%20za%20AI)[https://www.addtoany.com/share](https://www.addtoany.com/share)