Direktor kompanije Palantir Aleks Karp upozorio je da kompanije sve više troše novac na korišćenje generativne veštačke inteligencije, dok istovremeno rizikuju da svoje podatke i intelektualnu svojinu izlože AI kompanijama.
Karp je u razgovoru za CNBC rekao da kompanije „troše vreme i novac na tokene, često ne dobijajući nikakvu vrednost, a AI kompanije im uzimaju intelektualnu svojinu“. Njegove izjave izazvale su veliku pažnju, a akcije Palantira tog dana porasle su oko devet odsto.
Ipak, deo njegovih tvrdnji kasnije je doveden u pitanje. Analize dostupnih uslova korišćenja vodećih AI platformi pokazuju da se poslovni podaci korisnika, po pravilu, ne koriste za treniranje modela bez odgovarajuće saglasnosti. Pravi problem zato često nije u tome šta AI kompanije rade sa podacima, već u tome šta zaposleni uopšte unose u AI alate.
Zaposleni mogu biti najveća bezbednosna slabost
Kompanijski AI nalozi i poslovni API servisi mogu imati veoma stroga pravila zaštite podataka, ali nijedna tehnologija ne može u potpunosti da zaštiti kompaniju od zaposlenog koji poverljiv dokument samostalno kopira u privatni AI nalog.
Primeri su svakodnevni i naizgled bezazleni. Programer može poslati deo izvornog koda kako bi pronašao grešku, advokat može ubaciti nacrt ugovora kako bi dobio predlog za bolje formulacije, dok komercijalista može u AI alat kopirati tabelu sa cenama i maržama.
Marketinški tim može, recimo, uneti detalje o planiranom proizvodu kako bi dobio ideje za kampanju. Cilj zaposlenog najčešće nije da oda poslovnu tajnu, već da za nekoliko minuta završi posao za koji bi mu inače trebalo znatno više vremena.
Problem nastaje kada kompanija nema jasno definisana pravila o tome koji podaci smeju da se unose u AI sisteme, koje platforme zaposleni mogu da koriste i da li se za poslovne zadatke koriste službeni ili privatni nalozi.
Prema istraživanju bezbednosne kompanije Zscaler, ChatGPT je tokom prošle godine bio povezan sa više od 410 miliona slučajeva kršenja internih pravila o zaštiti podataka. Takvi incidenti uglavnom su bili posledica postupaka samih zaposlenih, koji su poverljive informacije unosili u javno dostupne AI servise.
Region tek ulazi u eru generativne AI
Dok velike američke kompanije već nekoliko godina pokušavaju da uvedu jasna pravila za korišćenje veštačke inteligencije, zemlje regiona tek se nalaze na početku tog procesa.
Prema istraživanju ICT Huba i Srpske asocijacije menadžera, na uzorku od 157 kompanija, AI tehnologije koristi oko 34 odsto firmi u Srbiji. Kao glavne prepreke kompanije navode visoke troškove i nedostatak stručnjaka, dok je zaštita podataka među pitanjima koja tek dobijaju veći značaj.
To znači da domaće kompanije još imaju priliku da pravila uvedu pre nego što masovna upotreba AI alata postane deo svakodnevnog poslovanja.
Zaštita počinje pre prvog upita
Bezbednost poslovnih podataka ne zavisi samo od toga da li kompanija koristi ChatGPT, Claude ili neku drugu platformu. Mnogo važnije pitanje jeste ko ima pravo da koristi AI, preko kog naloga i sa kakvim podacima.
Veće kompanije mogu koristiti sisteme za sprečavanje gubitka podataka, poznate kao DLP (Data Loss Prevention), koji mogu prepoznati osetljive informacije i sprečiti njihovo kopiranje u neodobrene servise.
Važno je i da zaposleni znaju razliku između privatnih i poslovnih naloga, kao i kakva pravila određena platforma primenjuje na podatke korisnika. Pojedini servisi omogućavaju isključivanje korišćenja razgovora za unapređenje modela, ali takve opcije same po sebi ne predstavljaju zamenu za jasnu internu politiku kompanije.
Zato se rasprava o bezbednosti AI alata sve manje svodi na pitanje da li „ChatGPT krade podatke“, a sve više na pitanje da li kompanije znaju šta njihovi zaposleni svakodnevno unose u veštačku inteligenciju.
Dok generativnu AI u Srbiji koristi tek deo kompanija, postoji mogućnost da se greške koje su velike svetske korporacije pravile tokom prethodnih godina izbegnu već na početku. U suprotnom, nekoliko minuta uštede u radu jednog zaposlenog može kompaniju skupo koštati.
