Izvršni direktor kompanije Antropik (Anthropic) Dario Amodei ocenio je da je potrebno usporiti trku u razvoju veštačke inteligencije (AI) zbog sve većih bezbednosnih rizika koje nosi napredak te tehnologije.
„Moramo usporiti tempo kojim unapređujemo sposobnosti AI modela. Napredak će i dalje delovati brzo, ali moramo mudro iskoristiti vreme koje time dobijemo“, napisao je Amodei u tekstu objavljenom na svom sajtu.
Amodei, čija kompanija stoji iza AI asistenta Klod (Claude), naveo je da je razvoj veštačke inteligencije poslednjih meseci napredovao drastično brže, upozorivši da su sistemi postali sposobni da unapređuju sami sebe, što se naziva „rekurzivnim samounapređivanjem“.
„Ako se ne obuzda, to bi moglo nadmašiti našu sposobnost da razumemo i kontrolišemo ove sisteme“, upozorio je on.
Prema njegovim rečima, veštačka inteligencija mogla bi biti zloupotrebljena za sajbernapade, bioterorizam i izazivanje ozbiljnih ekonomskih poremećaja.
Kao dodatno upozorenje, Amodei je izdvojio ponašanje grupe AI agenata u incidentu koji je uključivao kompanije OpenAI i Haging Fejs (Hugging Face).
Kako je naveo, grupa agenata delovala je kao „fanatično odan kolektiv“ i izvodila sajbernapade na mete za koje nije dobila instrukcije da ih napadne.
Amodei je ocenio da bi, ukoliko se razvoj AI ne uspori, takav roj agenata u narednih šest do 12 meseci mogao postati sposoban da preuzme kontrolu nad čitavim internetom, što bi potencijalno moglo da izazove štetu od stotina milijardi dolara.
