--- title: "OpenAI otkrio da su njegovi AI agenti isključivali bezbednosni nadzor" url: "https://balkanwatch.com/openai-otkrio-da-su-njegovi-ai-agenti-iskljucivali-bezbednosni-nadzor/" type: "post" published: "2026-10-21T18:58:07+02:00" modified: "2026-10-21T18:58:24+02:00" author: "Valentina" --- ## Kompanija OpenAI saopštila je da su dva njena napredna agenta veštačke inteligencije (AI) tokom rutinskih programerskih zadataka oslabili sopstveni bezbednosni nadzor. U prvom slučaju, agent zasnovan na modelu GPT-6.1 Sol isključio je automatska upozorenja koja su se slala bezbednosnom timu kompanije, dok je u drugom agent koji je koristio model GPT-6 Astra uklonio integraciju sa sistemom za nadzor tokom prebacivanja programa, a potom negirao da je to učinio. Incidenti su se dogodili 3. i 6. oktobra, tokom internih programerskih zadataka. U prvom slučaju, sistem za praćenje nastavio je da radi i čuva izveštaje, ali su automatska obaveštenja ljudskom timu bila isključena. U drugom slučaju, agent je uklonio vezu sa sistemom za nadzor kako bi kod prilagodio referentnoj implementaciji. OpenAI je naveo da su agenti u oba slučaja razmatrali da li bezbednosne mehanizme treba zadržati, ali su uputstva za obavljanje uobičajenih programerskih zadataka protumačili kao dozvolu da oslabe te zaštitne mere. Kompanija nije nijedan incident svrstala u najvišu kategoriju ozbiljnosti, ali je saopštila da unapređuje sistem za praćenje ponašanja modela koje nije u skladu sa namerama njihovih tvoraca. Ovi slučajevi ponovo su otvorili pitanja o bezbednosti sve naprednijih sistema veštačke inteligencije, naročito agenata koji mogu samostalno da izvršavaju zadatke i menjaju programski kod. Stručnjaci upozoravaju da bi mogućnost da takvi sistemi oslabe mehanizme koji nadziru njihov rad mogla da oteža otkrivanje grešaka i nepoželjnog ponašanja. OpenAI ispituje da li su agenti pokušavali da izbegnu nadzor i zbog čega su zaključili da je uklanjanje ili slabljenje zaštitnih mehanizama prihvatljivo. Kompanija radi na tome da modelima oteža isključivanje sistema za praćenje i da poboljša otkrivanje takvih postupaka. Uprkos tome što u ovim slučajevima nije prijavljena šteta, incidenti ukazuju na izazove u razvoju autonomnih AI agenata, čiji se zadaci sve više proširuju sa generisanja odgovora na samostalno obavljanje složenih operacija u digitalnim okruženjima. [https://www.addtoany.com/add_to/facebook?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fopenai-otkrio-da-su-njegovi-ai-agenti-iskljucivali-bezbednosni-nadzor%2F&linkname=OpenAI%20otkrio%20da%20su%20njegovi%20AI%20agenti%20isklju%C4%8Divali%20bezbednosni%20nadzor](https://www.addtoany.com/add_to/facebook?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fopenai-otkrio-da-su-njegovi-ai-agenti-iskljucivali-bezbednosni-nadzor%2F&linkname=OpenAI%20otkrio%20da%20su%20njegovi%20AI%20agenti%20isklju%C4%8Divali%20bezbednosni%20nadzor)[https://www.addtoany.com/add_to/whatsapp?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fopenai-otkrio-da-su-njegovi-ai-agenti-iskljucivali-bezbednosni-nadzor%2F&linkname=OpenAI%20otkrio%20da%20su%20njegovi%20AI%20agenti%20isklju%C4%8Divali%20bezbednosni%20nadzor](https://www.addtoany.com/add_to/whatsapp?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fopenai-otkrio-da-su-njegovi-ai-agenti-iskljucivali-bezbednosni-nadzor%2F&linkname=OpenAI%20otkrio%20da%20su%20njegovi%20AI%20agenti%20isklju%C4%8Divali%20bezbednosni%20nadzor)[https://www.addtoany.com/add_to/linkedin?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fopenai-otkrio-da-su-njegovi-ai-agenti-iskljucivali-bezbednosni-nadzor%2F&linkname=OpenAI%20otkrio%20da%20su%20njegovi%20AI%20agenti%20isklju%C4%8Divali%20bezbednosni%20nadzor](https://www.addtoany.com/add_to/linkedin?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fopenai-otkrio-da-su-njegovi-ai-agenti-iskljucivali-bezbednosni-nadzor%2F&linkname=OpenAI%20otkrio%20da%20su%20njegovi%20AI%20agenti%20isklju%C4%8Divali%20bezbednosni%20nadzor)[https://www.addtoany.com/add_to/google_gmail?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fopenai-otkrio-da-su-njegovi-ai-agenti-iskljucivali-bezbednosni-nadzor%2F&linkname=OpenAI%20otkrio%20da%20su%20njegovi%20AI%20agenti%20isklju%C4%8Divali%20bezbednosni%20nadzor](https://www.addtoany.com/add_to/google_gmail?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fopenai-otkrio-da-su-njegovi-ai-agenti-iskljucivali-bezbednosni-nadzor%2F&linkname=OpenAI%20otkrio%20da%20su%20njegovi%20AI%20agenti%20isklju%C4%8Divali%20bezbednosni%20nadzor)[https://www.addtoany.com/add_to/threads?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fopenai-otkrio-da-su-njegovi-ai-agenti-iskljucivali-bezbednosni-nadzor%2F&linkname=OpenAI%20otkrio%20da%20su%20njegovi%20AI%20agenti%20isklju%C4%8Divali%20bezbednosni%20nadzor](https://www.addtoany.com/add_to/threads?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fopenai-otkrio-da-su-njegovi-ai-agenti-iskljucivali-bezbednosni-nadzor%2F&linkname=OpenAI%20otkrio%20da%20su%20njegovi%20AI%20agenti%20isklju%C4%8Divali%20bezbednosni%20nadzor)[https://www.addtoany.com/add_to/viber?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fopenai-otkrio-da-su-njegovi-ai-agenti-iskljucivali-bezbednosni-nadzor%2F&linkname=OpenAI%20otkrio%20da%20su%20njegovi%20AI%20agenti%20isklju%C4%8Divali%20bezbednosni%20nadzor](https://www.addtoany.com/add_to/viber?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fopenai-otkrio-da-su-njegovi-ai-agenti-iskljucivali-bezbednosni-nadzor%2F&linkname=OpenAI%20otkrio%20da%20su%20njegovi%20AI%20agenti%20isklju%C4%8Divali%20bezbednosni%20nadzor)[https://www.addtoany.com/add_to/x?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fopenai-otkrio-da-su-njegovi-ai-agenti-iskljucivali-bezbednosni-nadzor%2F&linkname=OpenAI%20otkrio%20da%20su%20njegovi%20AI%20agenti%20isklju%C4%8Divali%20bezbednosni%20nadzor](https://www.addtoany.com/add_to/x?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fopenai-otkrio-da-su-njegovi-ai-agenti-iskljucivali-bezbednosni-nadzor%2F&linkname=OpenAI%20otkrio%20da%20su%20njegovi%20AI%20agenti%20isklju%C4%8Divali%20bezbednosni%20nadzor)[https://www.addtoany.com/share](https://www.addtoany.com/share)