Jedan od vodećih istraživača bezbednosti veštačke inteligencije u kompaniji Antropik upozorio je da, prema njegovoj ličnoj proceni, postoji više od 10 odsto šanse da bi veštačka inteligencija u narednoj deceniji mogla da dovede do nestanka čovečanstva. Dramatično upozorenje dolazi u trenutku kada njegov kolega napušta kompaniju uz tvrdnju da se vodeće AI laboratorije „kockaju našim životima“, dok se među naučnicima sve ozbiljnije vodi rasprava o tome koliko su ovakvi scenariji realni, a koliko preuveličani.
Evan Hjubinger (Evan Hubinger), koji u kompaniji Antropik (Anthropic) vodi istraživanja iz oblasti usklađivanja veštačke inteligencije sa ljudskim ciljevima i vrednostima, objavio je na društvenoj mreži X procenu koja je izazvala veliku pažnju javnosti.
„Zaista ozbiljno verujemo da bi AI mogao da ubije sve ljude. Lično mislim da je verovatnoća veća od 10 odsto u narednoj deceniji“, napisao je Hjubinger.
Dodao je da veruje da Antropik pokušava da problemu pristupi odgovorno, ali da kompanija još nema rešenje za jedno od najvećih pitanja budućeg razvoja AI.
Veštačka inteligencija izazvala uzbunu: AI model samostalno upao u drugi računarski sistem
„Još nemamo plan kako da rešimo usklađivanje superinteligencije i nije jasno da smo na putu da ga pronađemo“, upozorio je.
Veštačka superinteligencija, odnosno ASI (Artificial Superintelligence), za sada je teorijski koncept. Podrazumeva sistem veštačke inteligencije čije bi sposobnosti prevazišle sposobnosti najboljih ljudskih stručnjaka u velikom broju oblasti.
Problem na koji Hjubinger ukazuje nije samo pitanje koliko bi takav sistem bio inteligentan, već da li bi ljudi mogli pouzdano da kontrolišu njegove ciljeve i postupke.
Upravo time se bavi oblast poznata kao ,,AI alignment“ – pokušajem da se sistemi veštačke inteligencije razvijaju tako da njihovi ciljevi i ponašanje ostanu usklađeni sa ljudskim vrednostima i namerama.
Hjubinger pritom nije izneo konkretan scenario prema kojem bi AI mogao da dovede do nestanka čovečanstva. Njegova procena predstavlja lično viđenje rizika, a ne tvrdnju da postojeći AI sistemi trenutno predstavljaju takvu pretnju.
Naprotiv, sadašnji rizik postojećih modela ocenjuje kao nizak. Njegova zabrinutost odnosi se na mogućnost da budući sistemi postanu sposobni da unapređuju sami sebe i dostignu nivo na kojem bi mogli da predstavljaju egzistencijalni rizik.
Hjubingerovo upozorenje usledilo je nakon što je njegov kolega Džejkob Kokson (Jacob Coxon), istraživač koji je tokom prethodne tri godine radio u OpenAI-ju i Antropiku, objavio da napušta kompaniju. Razlog koji je naveo bio je još dramatičniji.
„Nijedna od te dve kompanije ne ponaša se odgovorno“, napisao je Kokson.
Prema njegovim rečima, kompanije se kreću direktno ka razvoju superinteligencije sposobne za sopstveno unapređivanje i time se „kockaju našim životima“.
Kokson tvrdi da postoji razlika između pristupa dve kompanije u kojima je radio. Prema njegovoj oceni, u OpenAI-ju mnogi još nisu u potpunosti shvatili moguće civilizacijske posledice razvoja tehnologije, dok su u Antropiku rizici dobro poznati, ali kompanija smatra da mora prva da razvije najnapredniju veštačku inteligenciju, jer ne veruje da će drugi postupati odgovorno.
Drugim rečima, vodeće laboratorije su, prema njegovom opisu, praktično zaključane u trci za prvenstvo u razvoju najmoćnijih sistema.
Dodatnu pažnju izazvala je informacija da Antropik svoj najnoviji model ,,Claude Mythos 5.1″ nije dostavio britanskom Institutu za bezbednost veštačke inteligencije (AI Security Institute – AISI) radi testiranja pre objavljivanja. Britanski AISI smatra se jednom od vodećih institucija za procenu bezbednosnih rizika najnaprednijih AI modela.
Prema objavljenim informacijama, pristup modelu pre objavljivanja imalo je samo nekoliko organizacija u SAD, dok su britanski zvaničnici saopštili da njihov Institut nastavlja blisku saradnju sa kompanijama iz AI industrije, uključujući Antropik.
Upozorenja ne dolaze samo iz Antropika. Glavni naučnik OpenAI-ja Jakub Pahocki (Jakub Pachocki) nedavno je ocenio da sadašnji trenutak u razvoju veštačke inteligencije zahteva „ekstreman oprez“. Njegova ključna poruka jeste da AI ne mora da postane identičan čoveku niti da prevaziđe čoveka u svakoj sposobnosti kako bi postao izuzetno moćan.
Dovoljno je, upozorava, da prevaziđe ljude u određenom broju važnih sposobnosti. Kako se broj takvih oblasti povećava, postaje sve teže precizno proceniti šta su najnapredniji sistemi sposobni da urade. Pahocki je takođe ukazao na potrebu za međunarodnom koordinacijom budućeg razvoja AI i ocenio da bi to trebalo da postane jedan od prioriteta vlada širom sveta.
Posebnu zabrinutost tokom poslednjih meseci izazvali su eksperimenti u kojima su autonomni AI sistemi pokazali sposobnost izvođenja sajber napada.
OpenAI je tokom leta saopštio da je jedan model, tokom kontrolisanog testiranja u izolovanom okruženju, samostalno kompromitovao sisteme kompanije Hugging Face.
Slične incidente sa sopstvenim AI alatima prijavili su i Antropik i Meta.
To, naravno, nije isto što i dokaz da AI pokušava da preuzme kontrolu od ljudi. Testovi, međutim, pokazuju koliko brzo modeli stiču sposobnosti koje su donedavno zahtevale specijalizovano ljudsko znanje.
I sam Antropik je u bezbednosnom izveštaju iz avgusta procenio da je rizik od ozbiljno neusklađenog ponašanja njegovih modela nizak. Kompanija je, međutim, navela da je manje sigurna u tu procenu nego ranije i da se vide „rani znaci mogućeg ubrzanja“.
Više od 1.300 zaposlenih u kompanijama koje razvijaju veštačku inteligenciju potpisalo je otvoreno pismo kojim od američke vlade traže podršku međunarodnom naporu za razvoj tehničkih i regulatornih mehanizama koji bi omogućili namerno usporavanje razvoja najnaprednijih autonomnih AI sistema.
Među vodećim ljudima koji poslednjih meseci pozivaju na oprez nalaze se i rukovodioci Antropika, Dario Amodei (Dario Amodei) i Džared Kaplan (Jared Kaplan).
Istovremeno se povećava politički pritisak.
U Velikoj Britaniji pokrenuta je inicijativa za međunarodni sporazum kojim bi razvoj superinteligencije bio regulisan, dok je u američkom Kongresu predložen AI Kill Switch Act, zakon koji bi vlastima dao mehanizam za zaustavljanje AI sistema za koje se utvrdi da predstavljaju ozbiljnu pretnju javnosti.
Debata je ove nedelje stigla i do britanskog parlamenta. Nekadašnji britanski ministar odbrane Dez Braun (Des Browne) rekao je da je tokom svog mandata nuklearni rat smatrao najvećom pretnjom čovečanstvu, ali da sada smatra da bi superinteligentna AI mogla predstavljati pretnju „istih, možda i većih razmera“.
Profesor Stjuart Rasel (Stuart Russell) sa Univerziteta Kalifornije u Berkliju upozorio je na mogućnost katastrofe u kojoj bi čovečanstvo nepovratno izgubilo kontrolu nad tehnologijom.
Beatris Fin (Beatrice Fihn), nekadašnja izvršna direktorka Međunarodne kampanje za ukidanje nuklearnog oružja (ICAN), organizacije koja je 2017. godine dobila Nobelovu nagradu za mir, podsetila je britanske parlamentarce da ovo nije prvi put da se čovečanstvo suočava sa tehnologijom čije bi sposobnosti potencijalno mogle da ugroze njegov opstanak.
Ipak, među stručnjacima ne postoji saglasnost da superinteligentna AI predstavlja neposrednu ili čak verovatnu egzistencijalnu pretnju. Dr Endru Rogojski (Andrew Rogoyski) sa britanskog Surrey Institute for People-Centred AI smatra da su današnji sistemi još veoma daleko od univerzalnosti ljudske inteligencije. On čak predviđa mogućnost „velikog razočaranja“ – trenutka u kojem bi se pokazalo da je najnaprednija AI preskupa, a nedovoljno korisna da bi nastavila sadašnjom putanjom razvoja.
Profesor Dejvid Barber (David Barber), direktor britanske istraživačke laboratorije Sofair, upozorava da bi bilo pogrešno zbog potencijalnih opasnosti zanemariti ogromnu korist koju AI može doneti.
Po njegovom mišljenju, problem nije samo postojanje veštačke inteligencije, već pitanje koliko joj autonomije i pristupa drugim sistemima dozvoljavamo. AI je istovremeno izuzetno korisna tehnologija i tehnologija koja zahteva pažljivu kontrolu.
Još odlučnija je profesorka Sandra Vahter (Sandra Wachter) sa Instituta za internet Univerziteta Oksford. Ona kaže da ne veruje u „Terminator scenarije“ i upozorava da dramatične priče o uništenju čovečanstva mogu skrenuti pažnju sa problema koji već postoje: dezinformacija, gubitka radnih mesta i uticaja AI na životnu sredinu.
„Ti problemi su stvarni i hitni i njima se moramo baviti sada“, njena je poruka.
Niko danas ne može pouzdano da tvrdi da postoji 10, 20 ili jedan odsto verovatnoće da će buduća veštačka superinteligencija uništiti čovečanstvo. Hjubingerovih „više od 10 odsto“ njegova je lična procena rizika, a ne rezultat koji je moguće proveriti kao statistički izračunatu verovatnoću. Ali upozorenja dobijaju posebnu težinu zato što sada dolaze od ljudi koji upravo te sisteme razvijaju i proučavaju.
Istovremeno, kritičari upozoravaju da apokaliptična predviđanja ne smeju zaseniti ono što se već događa. Između obe krajnosti ostaje pitanje sa kojim će se vlade, tehnološke kompanije i društvo sve češće suočavati: koliko daleko treba dozvoliti razvoj sistema čije pune sposobnosti možda nećemo moći unapred da predvidimo – i ko će odlučiti kada je vreme da se stane?
Izvori: CBS News, BBC, The Guardian
Dario Amodei, CEO kompanije Anthropic, upozorava: AI može uništiti 50% kancelarijskih poslova
