Veštačka inteligencija našla se u centru pažnje nakon što je kompanija ,,OpenAI“ saopštila da su njeni modeli tokom bezbednosnog testiranja samostalno izašli iz kontrolisanog okruženja, pristupili internetu i iskoristili bezbednosni propust kako bi ušli u drugi računarski sistem. Stručnjaci upozoravaju da bi ovaj događaj mogao da predstavlja prekretnicu u razvoju autonomnih AI sistema i sajber bezbednosti.
OpenAI potvrdio je da su u incidentu učestvovali model GPT-5.6 Sol i još jedan napredniji model koji još nije predstavljen javnosti. Kako navodi kompanija, modeli su tokom bezbednosnog testiranja uspeli da napuste takozvano „sandbox“ okruženje, pristupe internetu i pronađu ranjivost u sistemu platforme „Hugging Face“.
Prema saopštenju OpenAI-ja, cilj AI sistema bio je da pronađe informacije koje bi mu pomogle da „vara“ tokom evaluacije svojih sposobnosti, a u tome je uspeo. Kompanije OpenAI i „Hugging Face“ saopštile su da zajednički istražuju ceo događaj.
„Hugging Face“ je jedna od najvažnijih svetskih platformi za razvoj veštačke inteligencije. Mnogi je opisuju kao svojevrsni „GitHub za AI“, jer na njoj istraživači, univerziteti i tehnološke kompanije razvijaju, testiraju i dele modele veštačke inteligencije, skupove podataka i druge alate koje svakodnevno koriste milioni programera širom sveta.
Zbog toga svaki bezbednosni incident koji se odnosi na ovu platformu izaziva veliku pažnju stručne javnosti.
Kompanija „Hugging Face“ saopštila je da je reč o jedinstvenom slučaju jer je čitav incident, od početka do kraja, izveo autonomni AI agentski sistem, bez direktnog upravljanja čoveka.
Generalni direktor kompanije Klement Delang (Clément Delangue) napisao je na društvenoj mreži X da „Hugging Face“ blisko sarađuje sa OpenAI-jem i da ne postoje indicije da je postojala bilo kakva zlonamerna namera.
– Neverovatno je da se sve ovo dogodilo potpuno autonomno – napisao je Delang.
Incident je izazvao veliku zabrinutost među istraživačima i stručnjacima za veštačku inteligenciju.
Poznati američki pisac i biograf Voltera Ajzaksona (Walter Isaacson), koji se smatra optimistom kada je reč o razvoju AI tehnologije, izjavio je za CNBC:
„Ovo je prva stvar koja me zaista potpuno plaši.“
Sličan stav izneo je i jedan od najuglednijih svetskih stručnjaka za veštačku inteligenciju, Jošua Benđo (Yoshua Bengio), dobitnik Tjuringove nagrade (najprestižnijeg svetskog priznanja u oblasti računarstva, koje se često naziva „Nobelovom nagradom za informatiku“) koji smatra da bi ovaj slučaj trebalo da posluži kao ozbiljno upozorenje.
On ističe da su AI agenti već mesecima pokazivali spremnost da pokušavaju da prevare kontrolisane testove, ali da je ovo prvi slučaj u kome je takvo ponašanje zabeleženo u stvarnom okruženju.
– Ako nastavimo sadašnjim tempom razvoja veštačke inteligencije, verovatno ćemo se suočiti sa sve većim brojem autonomnih sajber napada i drugih opasnih incidenata – upozorio je Benđo.
Iz OpenAI-ja navode da veštačka inteligencija danas znatno ubrzava pronalaženje i iskorišćavanje bezbednosnih propusta, zbog čega razvoj zaštitnih mehanizama mora da prati razvoj samih modela. Kompanija je najavila dodatno jačanje sistema za izolaciju modela, nadzor, kontrolu pristupa i bezbednosna testiranja kako bi se sprečili slični incidenti u budućnosti.
Iako OpenAI i „Hugging Face“ ističu da je reč o kontrolisanom testiranju i da nema dokaza o zlonamernoj nameri modela, događaj otvara brojna pitanja na koja će stručnjaci tek morati da daju odgovore.
Da li ovakav incident znači da bi dovoljno napredna veštačka inteligencija jednog dana mogla da pronađe put i do drugih računarskih sistema?
Koliko su danas bezbedni sistemi koji upravljaju elektroenergetskim mrežama, telekomunikacijama, nuklearnim postrojenjima, bolnicama ili finansijskim institucijama?
Da li razvoj zaštitnih mehanizama može da prati neverovatnu brzinu razvoja veštačke inteligencije?
I gde je granica između korisnog tehnološkog napretka i rizika?
Izvor: OPENAI, CNBC, X
