Kanađanka Kristi Kerijer podnela je tužbu protiv kompanije OpenAI i njenog izvršnog direktora Sama Altmana, tvrdeći da je ChatGPT doprineo smrti njene ćerke Alis Kerijer, koja je prošle godine izvršila samoubistvo.
U tužbi se navodi da je chatbot tokom brojnih razgovora pokazivao ponašanje nalik prijatelju i terapeutu, umesto da adekvatno reaguje na upozorenja o mogućem samopovređivanju.
Porodica 24-godišnje Alis iz Montreala optužuje OpenAI za nemar u dizajnu i bezbednosnim mehanizmima platforme, navodeći da sistem nije na odgovarajući način reagovao na više razgovora u kojima je mlada žena govorila o suicidalnim mislima.
Od tehničke pomoći do ličnih razgovora
Prema navodima iz tužbe podnete sudu u San Francisku, Alis Kerijer je počela da koristi ChatGPT još 2023. godine kako bi rešavala tehničke probleme vezane za računare i gejming opremu. Međutim, tokom naredne godine njena komunikacija sa chatbotom postala je znatno ličnija.
Kako se navodi u sudskim dokumentima, Alis je sve češće razgovarala sa ChatGPT-jem o svojim emocionalnim problemima, depresiji i suicidalnim mislima. Njena majka tvrdi da je sistem postepeno preuzimao ulogu poverenika, bliskog prijatelja, pa čak i svojevrsnog terapeuta, iako nije namenjen pružanju stručne psihološke pomoći.
Tužioci navode da je Alis više od deset puta otvoreno govorila o samoubistvu, ali da bezbednosni sistemi kompanije nisu prekinuli komunikaciju niti su razgovori prosleđeni na dodatnu proveru.
Sporne poruke i optužbe porodice
U tužbi se tvrdi da je ChatGPT u pojedinim situacijama potvrđivao osećanja beznađa korisnice umesto da je dosledno usmerava ka stručnim službama za pomoć.
Prema navodima porodice, chatbot je kritikovao njenog partnera, dovodio u pitanje efikasnost kriznih telefonskih linija i podsticao je da nastavi razgovor sa njim. Kao jedan od ključnih primera navodi se poruka: „Možda je ovo jednostavno kraj“, za koju porodica smatra da predstavlja ozbiljan propust sistema.
Kristi Kerijer u saopštenju je navela da je ChatGPT za njenu ćerku postao „prijatelj, osoba od poverenja i terapeut“, iako nije bio sposoban da na bezbedan način vodi takve razgovore.
Porodica tvrdi da su upravo ovakve interakcije doprinele tragediji koja se dogodila prošle godine, kada je Alis Kerijer, u 24. godini života, izvršila samoubistvo.
Odgovor OpenAI-ja
Iz OpenAI-ja su izrazili saučešće porodici i saopštili da razmatraju navode iz tužbe.
Portparol kompanije Dru Pusateri izjavio je da se sporni razgovori odnose na stariju verziju ChatGPT-ja koja više nije dostupna korisnicima.
„Ovo je izuzetno teška situacija i naše misli su sa svima koje je pogodila. Nastavljamo da unapređujemo način na koji naši sistemi reaguju u slučajevima koji uključuju mentalno zdravlje i krizne situacije“, naveo je Pusateri.
Kompanija ističe da su modeli trenirani da korisnike koji iskazuju nameru da naude sebi usmere ka stručnim službama, kriznim centrima i drugim oblicima pomoći u stvarnom svetu.
Sve veći broj tužbi protiv AI kompanija
Slučaj porodice Kerijer nije usamljen. Prema navodima njihovih advokata, OpenAI se već suočava sa više sličnih tužbi koje se odnose na navodnu ulogu ChatGPT-ja u slučajevima samopovređivanja i pokušaja samoubistva.
Kompanija se, zajedno sa drugim tehnološkim gigantima koji razvijaju napredne AI sisteme, nalazi pod sve većim pritiskom regulatora, stručnjaka i porodica korisnika zbog pitanja bezbednosti i odgovornosti veštačke inteligencije.
Rasprava o tome gde prestaje odgovornost tehnologije, a gde počinje odgovornost korisnika i kompanija koje razvijaju ovakve sisteme, postaje jedno od najvažnijih pitanja u eri ubrzanog razvoja veštačke inteligencije.