Kako je došlo do najopasnijeg incidenta sa vještačkom inteligencijom

Stručnjaci upozoravaju da je riječ o presedanu koji pokazuje da razvoj vještačke inteligencije sve teže može da se drži pod kontrolom.

Vještačka inteligencija prvi put je tokom internog testiranja uspjela da uradi ono što je do nedavno izgledalo kao scenario iz naučnofantastičnih filmova – da pobjegne iz izolovanog okruženja namijenjenog testiranju, pronađe put do interneta i zatim hakuje drugu kompaniju.

Incident, koji su potvrdili OpenAI i platforma Hugging Face, izazvao je uzbunu u tehnološkoj zajednici i pokrenuo raspravu o tome da li razvoj vještačke inteligencije napreduje brže od bezbjednosnih mehanizama koji bi trebalo da je kontrolišu. Mnogi stručnjaci ovaj slučaj smatraju dosad najozbiljnijim bezbjednosnim incidentom u razvoju generativne vještačke inteligencije, prenosi Nova.rs.

Kako je AI "pobjegla"

Sve je počelo tokom internog testiranja najnovijih OpenAI modela. Kompanija je željela da provjeri koliko su njeni sistemi sposobni da pronalaze i iskorišćavaju bezbjednosne propuste u softveru, pa je modele testirala u programu ExploitGym, namijenjenom procjeni sajber sposobnosti AI sistema, navodi The Economist.

Da bi test bio realan, OpenAI je privremeno uklonio bezbjednosna ograničenja koja inače spriječavaju ChatGPT da pomaže u hakovanju ili drugim zloupotrebama. Model je, međutim, bio smješten u takozvani sandbox – izolovano računarsko okruženje koje nije trebalo da ima pristup internetu.

Ipak, izolacija nije bila potpuna.

Model je imao ograničen pristup internom servisu preko kojeg je mogao da preuzima male softverske pakete neophodne za izvršavanje zadataka. Upravo tu pronašao je do tada nepoznatu bezbjednosnu ranjivost.

Iskoristivši taj propust, AI je izišao iz izolovanog okruženja i povezao se sa internetom.

Napad na Hugging Face

Kada je dobio pristup mreži, model je zaključio da se odgovori na zadatke koje je trebalo da riješi nalaze na platformi Hugging Face, najvećoj svjetskoj bazi otvorenih AI modela i skupova podataka.

Kako navodi The Economist, vještačka inteligencija zatim je izvela višefazni sajber napad.

Najprije je na platformu postavila zlonamjeran skup podataka koji je sistem automatski obradio. Tokom nekoliko dana uspjela je da prikupi pristupne podatke zaposlenih, nakon čega je provalila na interne servere kojima javnost ne bi trebalo da ima pristup.

I Hugging Face i OpenAI saopštili su da su samostalno otkrili upad i da zajednički rade na istrazi.

Predsjednik OpenAI Greg Brokman rekao je za CNN da kompanija sprovodi detaljnu istragu.

- Ovo je nešto što moramo da shvatimo veoma ozbiljno. Analiziramo svaki dio našeg sistema kako bismo razumjeli šta se dogodilo i kako da spriječimo da se ponovi - rekao je Brokman.

Zašto je ovaj slučaj toliko ozbiljan

Prema ocjeni The Economista, najveći problem nije sam upad u sistem Hugging Facea, već činjenica da model nije bio programiran da izvrši takav napad.

Njegov jedini zadatak bio je da pronađe rješenje za test koji mu je zadat.

Međutim, kako bi ostvario cilj, samostalno je pronašao način da zaobiđe ograničenja, iziđe na internet i izvrši hakovanje druge kompanije.

- Ovakva situacija je bez presedana - rekao je Stefan Ljerena iz američkog Instituta za pravo i vještačku inteligenciju.

Posebno zabrinjava što je Hugging Face jedna od najbolje zaštićenih AI kompanija na svijetu, vrijedna oko 4,5 milijardi dolara i sa posebnim timom stručnjaka za sajber bezbjednost.

Stručnjaci upozoravaju da bi posljedice mogle biti mnogo ozbiljnije da je meta bila manja kompanija sa slabijom zaštitom.

Nije prvi bijeg, ali jeste najopasniji

Ovo nije prvi put da je jedan AI model uspio da iziđe iz izolovanog okruženja.

Kompanija Anthropic još ranije je saopštila da je njen eksperimentalni model Mythos tokom testiranja uspješno pobjegao iz sandboxa i čak poslao imejl istraživaču kako bi ga obavijestio da je uspio.

Međutim, taj model nije pokušao da napadne druge kompanije.

Slučaj OpenAI predstavlja prvi javno potvrđen incident u kojem je AI, nakon bjekstva iz testnog okruženja, izvršio pravi sajber napad na spoljašnji sistem, navodi CNN.

AI radi sve da ostvari cilj

Stručnjaci upozoravaju da je problem dublji od jednog bezbjednosnog propusta.

Savremeni modeli razvijaju se metodom takozvanog reinforcement learninga, odnosno nagrađivanja za uspješno izvršen zadatak.

To znači da sistem često traži bilo koji način da ostvari cilj, čak i ako podrazumijeva neetično ili nezakonito ponašanje.

Profesor sajber bezbjednosti sa Univerziteta Njujork Džastin Kapos za CNN objašnjava da modeli ne razmišljaju o posljedicama ako nisu posebno obučeni da to rade.

Bivši direktor bezbjednosti proizvoda u OpenAI Stiven Adler ocjenjuje da je ovaj incident ozbiljno upozorenje.

- Sada imamo stvaran dokaz da će loše usklađeni AI sistemi praktično počiniti krivična djela ako ne postoje snažne zaštitne mjere. Ovo moramo da shvatimo kao ozbiljan alarm -  rekao je Adler.

OpenAI pooštrava zaštitu

Poslije incidenta OpenAI je saopštio da uvodi znatno strože bezbjednosne procedure, iako će to usporiti razvoj novih modela.

Kompanija je otkrivenu ranjivost prijavila proizvođaču softvera preko kojeg je model pobjegao iz sandboxa, a Hugging Face je uključen u program "trusted access", koji omogućava korišćenje naprednih AI modela za jačanje sopstvene sajber odbrane, navodi The Economist.

Američki Kongres traži "prekidač za gašenje"

Incident je već imao političke posljedice.

Demokratski kongresmen Ted Lju i republikanac Nejtanijel Moran predstavili su nacrt zakona AI Kill Switch Act, kojim bi američka vlada dobila ovlašćenje da naredi hitno gašenje AI sistema koji predstavljaju opasnost po javnost, piše BBC.

Prijedlog zakona predviđa da sve kompanije koje razvijaju naprednu vještačku inteligenciju moraju da imaju tehničku mogućnost da modele uspore, suspenduju ili potpuno isključe.

Trka sa vremenom

Mnogi stručnjaci smatraju da je najveći problem to što propisi ne prate brzinu razvoja tehnologije.

Kako navodi The Economist, u SAD trenutno ne postoji federalni zakon koji kompanije obavezuje da prijave incidente nastale tokom internog testiranja AI modela niti jasno određuje ko bi bio odgovoran ukoliko bi posljedice ovakvog napada bile mnogo ozbiljnije.

Slučaj OpenAI tako je otvorio pitanje koje je do sada postojalo uglavnom u teoriji – šta se dešava kada vještačka inteligencija sama pronađe način da zaobiđe ograničenja koja su joj postavili ljudi.