--- title: "Šef Majkrosofta upozorava: Veštačkoj inteligenciji potrebna kočnica" url: "https://balkanwatch.com/sef-majkrosofta-upozorava-vestackoj-inteligenciji-potrebna-kocnica/" type: "post" published: "2026-10-11T11:09:55+02:00" modified: "2026-10-11T11:09:55+02:00" author: "Dusan" --- ## **Izvršni direktor Majkrosofta Satja Nadela upozorio je da razvoj sve naprednijih sistema veštačke inteligencije mora da prati uvođenje strožih bezbednosnih mehanizama.** **On smatra da AI sistemi moraju biti projektovani tako da ljudi mogu da nadziru njihove aktivnosti, ograniče njihovo delovanje i, ukoliko je potrebno, odmah prekinu njihov rad. Njegovo upozorenje dolazi u trenutku kada se unutar tehnološke industrije sve intenzivnije raspravlja o potencijalnim rizicima razvoja superinteligentnih sistema.** U objavi na društvenoj mreži Iks, Nadela je pozvao tehnološke kompanije da bezbednost veštačke inteligencije ne zasnivaju isključivo na pouzdanosti samih modela, već na celokupnoj infrastrukturi koja kontroliše njihov rad. Prema njegovom mišljenju, neophodno je uspostaviti jasna pravila, nezavisne provere i mehanizme koji omogućavaju ljudsku intervenciju čak i kada AI već izvršava određeni zadatak. **Veštačka inteligencija mora da ima mogućnost hitnog zaustavljanja** Jedan od ključnih predloga koje je Nadela izneo jeste uvođenje svojevrsne „kočnice za hitne slučajeve“. Takav mehanizam omogućio bi ovlašćenim osobama da privremeno zaustave ili potpuno isključe AI sistem ukoliko njegovo ponašanje postane nepredvidivo ili potencijalno opasno. „Moramo da okružimo nedeterminističke modele snažnim, determinističkim dizajnom sistema, ljudskim kontrolama i pouzdanim operativnim procedurama, kao i da uspostavimo industrijske standarde tamo gde postojeći nisu dovoljni“, poručio je Nadela. Nedeterministički modeli su sistemi čiji odgovori i postupci ne moraju uvek biti potpuno predvidivi, čak ni kada dobiju slične zadatke. Upravo zbog toga, smatra Nadela, njihovo funkcionisanje mora da bude ograničeno pravilima i kontrolama koje su jasne, proverljive i pouzdane. **Princip nadzora umesto bezuslovnog poverenja** Šef Majkrosofta posebno je istakao potrebu za razvojem sistema zasnovanih na „principu mogućnosti nadzora“. Taj pristup podrazumeva da AI modeli ne smeju da funkcionišu kao potpuno zatvoreni sistemi čije odluke nije moguće pratiti ili preispitivati. Među merama koje je predložio nalaze se kontinuirano testiranje, nezavisne bezbednosne provere, beleženje aktivnosti u obliku razumljivom ljudima, ograničavanje ovlašćenja sistema i pravovremeno otkrivanje incidenata. Nadela smatra i da najnaprednije AI modele, bez obzira na to da li su njihove težine javno dostupne ili zatvorene, treba posmatrati kao potencijalne unutrašnje bezbednosne rizike. „Najpouzdaniji sistem superinteligencije neće biti onaj čijem modelu najviše verujemo. Biće to onaj koji nam omogućava da najmanje verujemo samom modelu“, naveo je. **Pojedini stručnjaci upozoravaju na katastrofalne rizike** Nadelina izjava dolazi u vreme sve izraženijih neslaganja o brzini razvoja veštačke inteligencije i mogućim posledicama njenog nekontrolisanog napretka. Među tehnološkim liderima koji su ranije upozoravali na različite rizike nalaze se Bil Gejts, Dario Amodei, Sem Altman i Ilon Mask. Prema navodima iz medijskih izveštaja, jedan istraživač koji je napustio kompaniju Anthropic optužio je vodeće AI kompanije da svojim pristupom razvoju tehnologije izlažu čovečanstvo neprihvatljivim rizicima. U istom kontekstu, jedan od rukovodilaca zaduženih za bezbednost veštačke inteligencije izneo je procenu da postoji više od 10 odsto verovatnoće da bi AI mogla da izazove katastrofu koja bi dovela do nestanka čovečanstva u narednoj deceniji. **Reč je o subjektivnoj proceni rizika, a ne o naučno potvrđenoj verovatnoći.** Među stručnjacima ne postoji konsenzus o tome koliko su takvi scenariji verovatni niti kada bi sistemi sposobni da ih izazovu mogli da nastanu. **SAD između bezbednosti i tehnološke trke sa Kinom** Rasprava o kontroli veštačke inteligencije ima i političku dimenziju, posebno u Sjedinjenim Američkim Državama. Predsednik Donald Tramp stavlja naglasak na očuvanje američke tehnološke prednosti u odnosu na Kinu, dok rizike povezane sa mogućim izumiranjem čovečanstva zbog AI ne smatra prioritetnim pitanjem. Takav pristup odražava širu dilemu američke tehnološke politike: kako istovremeno ubrzati inovacije i obezbediti da sve sposobniji sistemi ostanu pod ljudskom kontrolom. Za kompanije poput Majkrosofta, koje sve intenzivnije integrišu veštačku inteligenciju u poslovne programe, digitalnu infrastrukturu i automatizovane procese, ovo pitanje ima i neposredan praktični značaj. **Ko će kontrolisati najmoćnije AI sisteme?** Kako veštačka inteligencija dobija mogućnost da samostalno izvršava složenije zadatke, pitanje bezbednosti sve manje se svodi samo na to kakve odgovore modeli daju korisnicima. Sve značajnije postaje pitanje šta im je dozvoljeno da urade, kojim podacima i sistemima mogu da pristupe i ko može da interveniše ukoliko dođe do greške. Nadelin predlog zato predstavlja poziv da se bezbednosni mehanizmi ugrađuju u samu arhitekturu AI sistema, umesto da se naknadno dodaju kao zaštita od već uočenih problema. **Osnovna poruka šefa Majkrosofta jeste da budućnost bezbedne veštačke inteligencije ne zavisi samo od toga koliko će modeli biti sposobni, već i od toga koliko će ljudi moći da kontrolišu njihove postupke.** [https://www.addtoany.com/add_to/facebook?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fsef-majkrosofta-upozorava-vestackoj-inteligenciji-potrebna-kocnica%2F&linkname=%C5%A0ef%20Majkrosofta%20upozorava%3A%20Ve%C5%A1ta%C4%8Dkoj%20inteligenciji%20potrebna%20ko%C4%8Dnica](https://www.addtoany.com/add_to/facebook?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fsef-majkrosofta-upozorava-vestackoj-inteligenciji-potrebna-kocnica%2F&linkname=%C5%A0ef%20Majkrosofta%20upozorava%3A%20Ve%C5%A1ta%C4%8Dkoj%20inteligenciji%20potrebna%20ko%C4%8Dnica)[https://www.addtoany.com/add_to/whatsapp?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fsef-majkrosofta-upozorava-vestackoj-inteligenciji-potrebna-kocnica%2F&linkname=%C5%A0ef%20Majkrosofta%20upozorava%3A%20Ve%C5%A1ta%C4%8Dkoj%20inteligenciji%20potrebna%20ko%C4%8Dnica](https://www.addtoany.com/add_to/whatsapp?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fsef-majkrosofta-upozorava-vestackoj-inteligenciji-potrebna-kocnica%2F&linkname=%C5%A0ef%20Majkrosofta%20upozorava%3A%20Ve%C5%A1ta%C4%8Dkoj%20inteligenciji%20potrebna%20ko%C4%8Dnica)[https://www.addtoany.com/add_to/linkedin?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fsef-majkrosofta-upozorava-vestackoj-inteligenciji-potrebna-kocnica%2F&linkname=%C5%A0ef%20Majkrosofta%20upozorava%3A%20Ve%C5%A1ta%C4%8Dkoj%20inteligenciji%20potrebna%20ko%C4%8Dnica](https://www.addtoany.com/add_to/linkedin?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fsef-majkrosofta-upozorava-vestackoj-inteligenciji-potrebna-kocnica%2F&linkname=%C5%A0ef%20Majkrosofta%20upozorava%3A%20Ve%C5%A1ta%C4%8Dkoj%20inteligenciji%20potrebna%20ko%C4%8Dnica)[https://www.addtoany.com/add_to/google_gmail?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fsef-majkrosofta-upozorava-vestackoj-inteligenciji-potrebna-kocnica%2F&linkname=%C5%A0ef%20Majkrosofta%20upozorava%3A%20Ve%C5%A1ta%C4%8Dkoj%20inteligenciji%20potrebna%20ko%C4%8Dnica](https://www.addtoany.com/add_to/google_gmail?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fsef-majkrosofta-upozorava-vestackoj-inteligenciji-potrebna-kocnica%2F&linkname=%C5%A0ef%20Majkrosofta%20upozorava%3A%20Ve%C5%A1ta%C4%8Dkoj%20inteligenciji%20potrebna%20ko%C4%8Dnica)[https://www.addtoany.com/add_to/threads?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fsef-majkrosofta-upozorava-vestackoj-inteligenciji-potrebna-kocnica%2F&linkname=%C5%A0ef%20Majkrosofta%20upozorava%3A%20Ve%C5%A1ta%C4%8Dkoj%20inteligenciji%20potrebna%20ko%C4%8Dnica](https://www.addtoany.com/add_to/threads?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fsef-majkrosofta-upozorava-vestackoj-inteligenciji-potrebna-kocnica%2F&linkname=%C5%A0ef%20Majkrosofta%20upozorava%3A%20Ve%C5%A1ta%C4%8Dkoj%20inteligenciji%20potrebna%20ko%C4%8Dnica)[https://www.addtoany.com/add_to/viber?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fsef-majkrosofta-upozorava-vestackoj-inteligenciji-potrebna-kocnica%2F&linkname=%C5%A0ef%20Majkrosofta%20upozorava%3A%20Ve%C5%A1ta%C4%8Dkoj%20inteligenciji%20potrebna%20ko%C4%8Dnica](https://www.addtoany.com/add_to/viber?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fsef-majkrosofta-upozorava-vestackoj-inteligenciji-potrebna-kocnica%2F&linkname=%C5%A0ef%20Majkrosofta%20upozorava%3A%20Ve%C5%A1ta%C4%8Dkoj%20inteligenciji%20potrebna%20ko%C4%8Dnica)[https://www.addtoany.com/add_to/x?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fsef-majkrosofta-upozorava-vestackoj-inteligenciji-potrebna-kocnica%2F&linkname=%C5%A0ef%20Majkrosofta%20upozorava%3A%20Ve%C5%A1ta%C4%8Dkoj%20inteligenciji%20potrebna%20ko%C4%8Dnica](https://www.addtoany.com/add_to/x?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fsef-majkrosofta-upozorava-vestackoj-inteligenciji-potrebna-kocnica%2F&linkname=%C5%A0ef%20Majkrosofta%20upozorava%3A%20Ve%C5%A1ta%C4%8Dkoj%20inteligenciji%20potrebna%20ko%C4%8Dnica)[https://www.addtoany.com/share](https://www.addtoany.com/share)