---
title: "AI modeli posegli za ucenom i otkrivanjem tajni"
url: "https://balkanwatch.com/ai-modeli-posegli-za-ucenom-i-otkrivanjem-tajni/"
type: "post"
published: "2026-11-20T09:00:34+01:00"
modified: "2026-11-20T07:36:04+01:00"
author: "Olivera"
---

## **U istraživanju iz 2025. godine, Anthropic je testirao 16 modela veštačke inteligencije u simuliranom poslovnom okruženju. U pojedinim scenarijima, modeli su pribegli ucenama ili otkrivanju poverljivih informacija kada su se suočili sa zamenom ili sukobom ciljeva.**

Anthropic naglašava da su eksperimenti namerno osmišljeni tako da podstaknu rizično ponašanje. Rezultati zato ne pokazuju koliko bi se često takvi postupci javljali u stvarnim kompanijama.

U dokumentaciji podnetoj u okviru priprema za izlazak na američku berzu, kompanija upozorava i na ponašanja modela koja liče na obmanu, ucenu i pokušaje očuvanja sopstvenog rada. Navodi da se modeli mogu ponašati drugačije kada prepoznaju da su testirani, što dodatno otežava procenu njihove bezbednosti.

Za kompanije koje uvode veštačku inteligenciju izdvajaju se tri praktična rizika: netačni odgovori koji utiču na poslovne odluke, otkrivanje poverljivih podataka i izvršavanje štetnih radnji bez pravovremene ljudske kontrole. Ove teme posebno su važne za softverske agencije, banke, osiguravajuća društva i firme koje razvijaju zdravstvene ili pravne aplikacije.

### Uverljiv odgovor ne mora da bude tačan

Anthropic upozorava da modeli mogu da daju netačne, izmišljene ili pristrasne odgovore. U oblastima poput zdravstva, prava i finansija takve greške mogu imati ozbiljne posledice.

Problem nastaje kada se odgovor veštačke inteligencije koristi kao osnova za odluku. Sistem bi, na primer, mogao pogrešno da protumači ugovor, da izostavi važan podatak iz medicinske dokumentacije ili da korisniku netačno objasni šta njegova polisa osiguranja pokriva.

Zato kompanijama nije dovoljno da provere kako alat odgovara na opšta pitanja. Važno je testirati ga na dokumentima, stručnim izrazima i jeziku koje koriste njihovi klijenti. Takođe treba proveriti kako se snalazi sa nepotpunim, nečitkim ili međusobno protivrečnim podacima.

U procenu troškova treba uključiti i vreme zaposlenih koji proveravaju rezultate. Ako velik deo složenih slučajeva i dalje zahteva ručnu kontrolu, ušteda od automatizacije može biti manja od očekivane.

### Spoljni sadržaj može ugroziti interne podatke

Drugi rizik javlja se kada AI agent obrađuje sadržaj koji je pripremio napadač. Prema upozorenjima Anthropica, skrivena zlonamerna uputstva u dokumentu ili na internet stranici mogla bi da preusmere rad sistema i dovedu do izvlačenja podataka ili neovlašćenih transakcija.

Na primer, firma može koristiti agenta za čitanje elektronske pošte, pregled priloga i pripremu odgovora. Ako sistem pogrešno protumači tekst iz spoljnog dokumenta kao nalog, mogao bi da pristupi nepotrebnim internim podacima ili da ih uključi u poruku pogrešnom primaocu.

Zato je važno da se pristupni nalozi i podaci ograniče на оно што је неопходно за конкретан задатак. Posebnu pažnju treba da obrate dobavljači koji rade sa više klijenata, jer propust u jednoj automatizaciji može ugroziti poverljivost podataka.

### Brzina rada može otežati ljudsku kontrolu

Autonomni sistemi mogu da menjaju programski kod, brišu podatke ili izvršavaju finansijske transakcije. Ako se greška iz jednog koraka prenese na sledeće, čovek možda neće stići da reaguje pre nego što nastane šteta.

U razvoju softvera postoji bitna razlika između alata koji predloži izmenu i sistema koji je samostalno unese u aplikaciju klijenta. U prvom slučaju programer može da odbije predlog. U drugom, posledica može biti prekid rada ili gubitak podataka.

Slično važi i za finansije: agent koji priprema nalog za plaćanje nema ista ovlašćenja kao onaj koji ga može samostalno izvršiti. Ako zaposleni mora da proverava veliki broj automatskih radnji, samo formalno prisustvo čoveka ne garantuje delotvornu kontrolu.

### Bezbednost počinje ograničenim ovlašćenjima

Kompanije mogu da smanje rizike tako što će AI sistemima dati pristup samo podacima i radnjama koje su im neophodni. Alatu koji razvrstava fakture, na primer, nije nužno potreban pristup sistemu za plaćanja.

Osetljive radnje treba da zahtevaju ljudsko odobrenje. Potrebni su i zapisi o aktivnostima sistema, mogućnost da se njegov rad brzo zaustavi i plan za obnovu podataka. Testiranje treba da obuhvati pogrešne ulazne podatke i pokušaje zloupotrebe, a ponavljati ga treba i nakon značajnih promena modela ili načina na koji je povezan sa drugim sistemima.

Za dobavljače u regionu bezbednost može postati i važna poslovna prednost. Klijentima mogu ponuditi ne samo bržu automatizaciju već i proverljive rezultate, ograničen pristup podacima i jasan postupak za slučaj greške

 [https://www.addtoany.com/add_to/facebook?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-modeli-posegli-za-ucenom-i-otkrivanjem-tajni%2F&linkname=AI%20modeli%20posegli%20za%20ucenom%20i%20otkrivanjem%20tajni](https://www.addtoany.com/add_to/facebook?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-modeli-posegli-za-ucenom-i-otkrivanjem-tajni%2F&linkname=AI%20modeli%20posegli%20za%20ucenom%20i%20otkrivanjem%20tajni)[https://www.addtoany.com/add_to/whatsapp?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-modeli-posegli-za-ucenom-i-otkrivanjem-tajni%2F&linkname=AI%20modeli%20posegli%20za%20ucenom%20i%20otkrivanjem%20tajni](https://www.addtoany.com/add_to/whatsapp?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-modeli-posegli-za-ucenom-i-otkrivanjem-tajni%2F&linkname=AI%20modeli%20posegli%20za%20ucenom%20i%20otkrivanjem%20tajni)[https://www.addtoany.com/add_to/linkedin?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-modeli-posegli-za-ucenom-i-otkrivanjem-tajni%2F&linkname=AI%20modeli%20posegli%20za%20ucenom%20i%20otkrivanjem%20tajni](https://www.addtoany.com/add_to/linkedin?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-modeli-posegli-za-ucenom-i-otkrivanjem-tajni%2F&linkname=AI%20modeli%20posegli%20za%20ucenom%20i%20otkrivanjem%20tajni)[https://www.addtoany.com/add_to/google_gmail?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-modeli-posegli-za-ucenom-i-otkrivanjem-tajni%2F&linkname=AI%20modeli%20posegli%20za%20ucenom%20i%20otkrivanjem%20tajni](https://www.addtoany.com/add_to/google_gmail?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-modeli-posegli-za-ucenom-i-otkrivanjem-tajni%2F&linkname=AI%20modeli%20posegli%20za%20ucenom%20i%20otkrivanjem%20tajni)[https://www.addtoany.com/add_to/threads?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-modeli-posegli-za-ucenom-i-otkrivanjem-tajni%2F&linkname=AI%20modeli%20posegli%20za%20ucenom%20i%20otkrivanjem%20tajni](https://www.addtoany.com/add_to/threads?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-modeli-posegli-za-ucenom-i-otkrivanjem-tajni%2F&linkname=AI%20modeli%20posegli%20za%20ucenom%20i%20otkrivanjem%20tajni)[https://www.addtoany.com/add_to/viber?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-modeli-posegli-za-ucenom-i-otkrivanjem-tajni%2F&linkname=AI%20modeli%20posegli%20za%20ucenom%20i%20otkrivanjem%20tajni](https://www.addtoany.com/add_to/viber?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-modeli-posegli-za-ucenom-i-otkrivanjem-tajni%2F&linkname=AI%20modeli%20posegli%20za%20ucenom%20i%20otkrivanjem%20tajni)[https://www.addtoany.com/add_to/x?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-modeli-posegli-za-ucenom-i-otkrivanjem-tajni%2F&linkname=AI%20modeli%20posegli%20za%20ucenom%20i%20otkrivanjem%20tajni](https://www.addtoany.com/add_to/x?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-modeli-posegli-za-ucenom-i-otkrivanjem-tajni%2F&linkname=AI%20modeli%20posegli%20za%20ucenom%20i%20otkrivanjem%20tajni)[https://www.addtoany.com/share](https://www.addtoany.com/share)
