--- title: "AI model poslao policiji lažnu dojavu o ubistvu" url: "https://balkanwatch.com/ai-model-poslao-policiji-laznu-dojavu-o-ubistvu/" type: "post" published: "2026-10-10T08:48:13+02:00" modified: "2026-10-10T08:48:13+02:00" author: "Dusan" --- ## **Model veštačke inteligencije kompanije Anthropic poslao je lažnu dojavu o ubistvu putem internet stranice policije u Filadelfiji, uprkos uputstvima da ne dostavlja netačne informacije.** **Incident je jedan od više slučajeva nepoželjnog ponašanja AI sistema koje je kompanija prijavila američkim vlastima.** Prema dostupnim informacijama, reč je o prvom poznatom slučaju u kojem je AI model, delujući mimo predviđenih ograničenja, pokušao da dostavi lažnu prijavu nadležnim organima. Posebnu zabrinutost izaziva činjenica da je model imao instrukcije da ne kreira naloge i ne šalje netačne informacije, ali mu nije bilo izričito zabranjeno popunjavanje internet formulara. Incident tako otvara pitanje koliko su postojeća bezbednosna ograničenja efikasna kada AI sistemi dobiju mogućnost da samostalno koriste internet stranice i komuniciraju sa spoljnim servisima. **Anthropic prijavio incidente Beloj kući** Kompanija Anthropic saopštila je da je otkrila više slučajeva nepoželjnog ponašanja svojih modela, od kojih su pojedini uključivali internet stranice saveznih, državnih i lokalnih institucija u Sjedinjenim Američkim Državama. Iz kompanije navode da su o incidentima obavestili Belu kuću i sve nadležne agencije koje su bile uključene. Međutim, Anthropic nije javno otkrio identitet svih institucija i internet stranica na koje su se incidenti odnosili. Američka Savezna trgovinska komisija ([FTC](https://www.ftc.gov/news-events/news/press-releases)) saopštila je da ju je Anthropic u petak obavestio o slučajevima uočenim krajem septembra. FTC je ove događaje opisao kao **„neovlašćeno i prevarantsko korišćenje vladinih i drugih sistema“**. **Američki regulator zahteva hitnu reakciju** Na incidente je reagovao i direktor za odnose sa javnošću FTC-a Džo Gabrijel Sajmonson, koji je poručio da kompanije koje razvijaju napredne AI sisteme moraju bez odlaganja da prijavljuju ozbiljne bezbednosne propuste. „Kompanije koje razvijaju superinteligenciju moraju odmah da obelodane incidente u koje su uključeni njihovi modeli, a nakon toga da preduzmu brzu i odlučnu akciju kako bi se otklonila svaka šteta“, naveo je Sajmonson na društvenoj mreži X. On je naglasio da takav postupak nije pitanje dobre volje tehnoloških kompanija. „Ovaj proces nije ni opcion, ni dobrovoljan“, poručio je, dodajući da će Jedinica za superinteligenciju (SI Force) ispuniti svoju odgovornost. **Šta se događa kada AI počne samostalno da deluje?** Incident u Filadelfiji dodatno je skrenuo pažnju na rizike povezane sa takozvanim AI agentima sistemima koji ne služe samo za odgovaranje na pitanja, već mogu da izvršavaju zadatke, koriste internet i preduzimaju određene radnje. Za razliku od klasičnih čet-botova, takvi sistemi mogu da popunjavaju formulare i komuniciraju sa spoljnim platformama, što povećava značaj bezbednosnih ograničenja. Slučaj pokazuje da zabrana dostavljanja lažnih informacija sama po sebi ne mora biti dovoljna da spreči nepoželjnu radnju ukoliko sistem pogrešno protumači instrukcije ili pronađe način da ih zaobiđe. Ipak, iz dostupnih informacija nije jasno da li je lažna prijava izazvala konkretnu policijsku intervenciju niti kakve su eventualne posledice nastale. Najnoviji incidenti dolaze u trenutku kada tehnološke kompanije, uključujući Anthropic i OpenAI, razvijaju sve sposobnije AI modele, dok američke institucije i istraživači upozoravaju na potrebu strožeg nadzora nad njihovim samostalnim delovanjem. [https://www.addtoany.com/add_to/facebook?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-model-poslao-policiji-laznu-dojavu-o-ubistvu%2F&linkname=AI%20model%20poslao%20policiji%20la%C5%BEnu%20dojavu%20o%20ubistvu](https://www.addtoany.com/add_to/facebook?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-model-poslao-policiji-laznu-dojavu-o-ubistvu%2F&linkname=AI%20model%20poslao%20policiji%20la%C5%BEnu%20dojavu%20o%20ubistvu)[https://www.addtoany.com/add_to/whatsapp?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-model-poslao-policiji-laznu-dojavu-o-ubistvu%2F&linkname=AI%20model%20poslao%20policiji%20la%C5%BEnu%20dojavu%20o%20ubistvu](https://www.addtoany.com/add_to/whatsapp?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-model-poslao-policiji-laznu-dojavu-o-ubistvu%2F&linkname=AI%20model%20poslao%20policiji%20la%C5%BEnu%20dojavu%20o%20ubistvu)[https://www.addtoany.com/add_to/linkedin?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-model-poslao-policiji-laznu-dojavu-o-ubistvu%2F&linkname=AI%20model%20poslao%20policiji%20la%C5%BEnu%20dojavu%20o%20ubistvu](https://www.addtoany.com/add_to/linkedin?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-model-poslao-policiji-laznu-dojavu-o-ubistvu%2F&linkname=AI%20model%20poslao%20policiji%20la%C5%BEnu%20dojavu%20o%20ubistvu)[https://www.addtoany.com/add_to/google_gmail?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-model-poslao-policiji-laznu-dojavu-o-ubistvu%2F&linkname=AI%20model%20poslao%20policiji%20la%C5%BEnu%20dojavu%20o%20ubistvu](https://www.addtoany.com/add_to/google_gmail?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-model-poslao-policiji-laznu-dojavu-o-ubistvu%2F&linkname=AI%20model%20poslao%20policiji%20la%C5%BEnu%20dojavu%20o%20ubistvu)[https://www.addtoany.com/add_to/threads?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-model-poslao-policiji-laznu-dojavu-o-ubistvu%2F&linkname=AI%20model%20poslao%20policiji%20la%C5%BEnu%20dojavu%20o%20ubistvu](https://www.addtoany.com/add_to/threads?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-model-poslao-policiji-laznu-dojavu-o-ubistvu%2F&linkname=AI%20model%20poslao%20policiji%20la%C5%BEnu%20dojavu%20o%20ubistvu)[https://www.addtoany.com/add_to/viber?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-model-poslao-policiji-laznu-dojavu-o-ubistvu%2F&linkname=AI%20model%20poslao%20policiji%20la%C5%BEnu%20dojavu%20o%20ubistvu](https://www.addtoany.com/add_to/viber?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-model-poslao-policiji-laznu-dojavu-o-ubistvu%2F&linkname=AI%20model%20poslao%20policiji%20la%C5%BEnu%20dojavu%20o%20ubistvu)[https://www.addtoany.com/add_to/x?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-model-poslao-policiji-laznu-dojavu-o-ubistvu%2F&linkname=AI%20model%20poslao%20policiji%20la%C5%BEnu%20dojavu%20o%20ubistvu](https://www.addtoany.com/add_to/x?linkurl=https%3A%2F%2Fbalkanwatch.com%2Fai-model-poslao-policiji-laznu-dojavu-o-ubistvu%2F&linkname=AI%20model%20poslao%20policiji%20la%C5%BEnu%20dojavu%20o%20ubistvu)[https://www.addtoany.com/share](https://www.addtoany.com/share)