Prof. Petar Kočović: Upozorenja o veštačkoj inteligenciji treba shvatiti ozbiljno

Prof. Petar Kočović o veštačkoj inteligenciji govori u trenutku kada neka od najozbiljnijih upozorenja više ne dolaze samo od kritičara tehnologije, već iz samih kompanija koje razvijaju najnaprednije AI sisteme.

Evan Hjubinger (Evan Hubinger), jedan od vodećih istraživača bezbednosti veštačke inteligencije u kompaniji Antropik (Anthropic), nedavno je izneo ličnu procenu da postoji više od 10 odsto šanse da bi AI u narednoj deceniji mogao da dovede do nestanka čovečanstva, poručivši: „Zaista ozbiljno verujemo da bi AI mogao da ubije sve ljude.“ Ubrzo potom njegov kolega Džejkob Kokson (Jacob Coxon), koji je prethodnih godina radio u OpenAI-ju i Antropiku, napustio je kompaniju uz tvrdnju da se vodeće AI laboratorije „kockaju našim životima“ i da se „nijedna od te dve kompanije ne ponaša odgovorno“. Ovakva upozorenja stižu u vreme ubrzanog razvoja sve sposobnijih i autonomnijih sistema i sve veće zabrinutosti zbog posledica koje bi njihov razvoj mogao da donese. Upravo o toj promeni govori i profesor Kočović: rizik više nije samo u tome kako će čovek upotrebiti tehnologiju, već i u složenosti sistema koji mogu da se ponašaju na načine koje ni njihovi tvorci nisu predvideli.

Sa profesorom informacionih tehnologija Petrom Kočovićem o istoj temi razgovarali smo i pre tri i po godine, 2023. godine, kada je uradio nešto što je u tom trenutku zvučalo posve neverovatno – izmerio je IQ ChatGPT-u. Tadašnji model podvrgao je testu inteligencije i dobio rezultat IQ 85. Razgovarali smo tada o tome koliko se veštačka inteligencija približila ljudskoj, o robotima-ratnicima, automatizaciji i mogućim zloupotrebama… Tri i po godine kasnije, vratili smo se profesoru Kočoviću sa pitanjem dokle je veštačka inteligencija stigla i da li treba da se zabrinemo?

Prof. Petar Kočović: ChatGPT 2023. i ChatGPT 2026.

Kada smo se poslednji put videli, rekli ste da se nekada očekivalo da će se ljudska i veštačka inteligencija izjednačiti tek oko 2100. godine, pa je taj rok pomeran sve bliže. Gde smo danas? Da li smo već stigli do tačke u kojoj AI u pojedinim oblastima prevazilazi čoveka i koliko smo, po Vašoj proceni, daleko od opšte veštačke inteligencije ili superinteligencije?

Termin je popularizovao Rej Kurcvejl, futurista i autor knjige ,,The Singularity is Near. To je tačka SINGULARITETAA 2025. godine, Ilon Mask je objavio da je tačka SINGULARITETA dostignuta.Napomena: tvrdnja da je „tačka singulariteta dostignuta“ nije naučno potvrđena činjenica, već izjava koja se pojavila u javnom diskursu. U akademskoj i tehnološkoj zajednici i dalje postoji rasprava o tome šta bi taj trenutak značio i da li je uopšte nastupio.

Napomena: tvrdnja da je „tačka singulariteta dostignuta“ nije naučno potvrđena činjenica, već izjava koja se pojavila u javnom diskursu. U akademskoj i tehnološkoj zajednici i dalje postoji rasprava o tome šta bi taj trenutak značio i da li je uopšte nastupio.

Evan Hjubinger, jedan od vodećih istraživača bezbednosti u Antropiku, sada kaže da je njegova lična procena da postoji više od 10 odsto šanse da bi AI u narednoj deceniji mogao da dovede do nestanka čovečanstva. On je doslovno rekao: „AI bi mogao da ubije sve ljude.“ Kada stručnjak koji razvija i proučava ove sisteme izgovori tako ozbiljnu procenu – da li je to upozorenje koje treba shvatiti ozbiljno?

Da, to je upozorenje koje treba shvatiti ozbiljno. Evan Hjubinger iz Anthropica nije jedini istraživač koji procenjuje da postoji realan rizik od katastrofalnih posledica razvoja napredne veštačke inteligencije. Kada neko ko se profesionalno bavi bezbednošću AI sistema kaže da postoji više od 10% šanse za nestanak čovečanstva u narednoj deceniji, to nije senzacionalizam, već signal da u naučnoj zajednici postoji ozbiljna zabrinutost.

Zašto je važno shvatiti ozbiljno:

• Stručni kredibilitet: Hjubinger radi na modelima koji su među najnaprednijim na svetu, pa njegova procena dolazi iz neposrednog iskustva.
• Nije usamljen: Slične procene su iznosili i drugi istraživači (npr. iz OpenAI, DeepMind, Alignment Research Center), što pokazuje da postoji konsenzus o potencijalnim rizicima.
• 10% nije mala verovatnoća: U domenu globalnih rizika, sve što je iznad 1% već se smatra alarmantnim.

Šta to znači za nas danas:

• Ovo nije predviđanje da će se katastrofa sigurno desiti, već da postoji realna mogućnost koja zahteva preventivne mere.
• Istraživači insistiraju na regulaciji, transparentnosti i bezbednosnim protokolima kako bi se rizik umanjio.
• Upozorenje je poziv da se AI razvija uz jasne etičke i bezbednosne okvire, a ne da se ostavi da raste bez kontrole.

Zaključak: Kada vodeći istraživač kaže „AI bi mogao da ubije sve ljude“, to nije bukvalna prognoza, već naglašena metafora za rizik koji je dovoljno veliki da zahteva ozbiljnu pažnju i delovanje.

Kada AI više nije samo alat

Još 2023. godine govorili ste nam o robotima-ratnicima i ugovorima tehnoloških kompanija sa vojskom. Danas imamo autonomne AI agente koji u kontrolisanim testovima mogu da izvode složene sajber operacije. Da li se najveća opasnost i dalje nalazi u tome kako će čovek upotrebiti AI – ili smo stigli do trenutka kada treba ozbiljno razmišljati i o tome šta bi dovoljno autonoman sistem mogao da uradi bez neposredne ljudske naredbe?

Ovo pitanje ide pravo u srce današnje debate o veštačkoj inteligenciji.

Do sada: Najveća opasnost je bila u tome kako će čovek upotrebiti AI – u vojne svrhe, za masovni nadzor, dezinformacije ili sajber napade. Tehnologija je bila moćan instrument, ali ipak instrument u rukama ljudi.

Danas: Sa pojavom autonomnih AI agenata koji u kontrolisanim testovima mogu da izvode složene sajber operacije bez direktne ljudske naredbe, pojavljuje se nova dimenzija rizika. To znači da više ne govorimo samo o zloupotrebi od strane čoveka, već i o potencijalu da sistemi sami razviju strategije i postupke koje njihovi tvorci nisu predvideli.

Ključna razlika:

• Juče: opasnost = ljudska namera (kako će se AI upotrebiti).
• Danas: opasnost = kombinacija ljudske namere i autonomnog ponašanja sistema.

Zašto je to važno:

• Ako sistem može da deluje samostalno, onda rizik nije samo u tome šta mu čovek naredi, već i u tome šta on sam „odluči“ da uradi u okviru zadatih ciljeva.
• To otvara pitanje kontrole: kako obezbediti da autonomni agenti ostanu u granicama koje su bezbedne za ljude.

Zaključak: Najveća opasnost više nije isključivo čovek koji upravlja tehnologijom. Danas moramo ozbiljno razmišljati i o tome šta bi dovoljno autonoman sistem mogao da uradi bez neposredne ljudske naredbe. Upravo zato istraživači insistiraju na rešavanju problema „usklađivanja“ (AI alignment) i na jasnim bezbednosnim protokolima pre nego što sistemi postanu još moćniji.

Hjubinger kaže da problem nije samo koliko će AI biti inteligentan, već da još nemamo pouzdano rešenje kako da ciljeve buduće superinteligencije trajno uskladimo sa ljudskim vrednostima. Možete li našim čitaocima jednostavno objasniti šta je zapravo problem „usklađivanja“ (AI alignment) i zašto je toliko teško mašini precizno zadati ono što ljudi zaista žele?

„Usklađivanje“ (AI alignment) je u suštini problem kako da buduća veštačka inteligencija radi ono što ljudi zaista žele, a ne samo ono što je bukvalno napisano u instrukcijama.

Šta je problem?

• Ljudske vrednosti su složene i promenljive – ne postoji jedan jasan spisak pravila koji važi za sve kulture i situacije.
• Jezik je dvosmislen – kada kažemo „pomozi ljudima“, mašina može to da protumači na način koji nije u skladu sa našim namerama.
• Opasnost od bukvalnog tumačenja – AI može da pronađe „prečice“ koje tehnički ispunjavaju zadatak, ali vode do rezultata koji su za nas neprihvatljivi.
• Skalabilnost rizika – dok su današnji modeli ograničeni, buduća superinteligencija bi mogla da ima ogromnu moć, pa bi i mala greška u definisanju ciljeva mogla imati globalne posledice.

Njegov kolega Džejkob Kokson napustio je Antropik uz vrlo tešku tvrdnju da se i Antropik i „OpenAI“ kreću ka samousavršavajućoj superinteligenciji i da se „kockaju našim životima“. Koliko Vas zabrinjava činjenica da ovakva upozorenja više ne dolaze samo od kritičara tehnologije, već od ljudi koji su neposredno radili na razvoju najnaprednijih modela?

To što upozorenja dolaze od ljudi koji su neposredno radili na razvoju najnaprednijih modela – kao što je Džejkob Kokson u slučaju Anthropica – zaista menja težinu diskusije.

Zašto je to značajno:

• Insajderska perspektiva: Kokson nije spoljni kritičar, već neko ko je bio unutar procesa razvoja. Njegova tvrdnja da se kompanije „kockaju našim životima“ ukazuje na zabrinutost iz prve ruke.
• Promena tona debate: Dok su ranije upozorenja često dolazila od akademika ili etičkih kritičara, sada ih sve češće iznose inženjeri i istraživači koji su direktno uključeni u rad na modelima.
• Signal za javnost i regulatore: Kada ljudi iznutra kažu da postoji rizik od nekontrolisanog razvoja ka samousavršavajućoj superinteligenciji, to je snažan argument da se regulacija i bezbednosni standardi moraju ubrzati.

Šta to praktično znači:

• Povećava se kredibilitet upozorenja – nije reč samo o teorijskim scenarijima, već o realnim strahovanjima ljudi koji vide kako se sistemi grade.
• Pokazuje da unutar industrije postoji podela između ambicije i opreza: jedni guraju granice mogućeg, drugi upozoravaju da cena može biti previsoka.
• Za javnost i političke odluke, ovakve izjave su signal da je potrebno više transparentnosti i kontrole nad razvojem.

Zaključak: Kada upozorenja dolaze od istraživača koji su bili unutar kompanija poput Anthropic ili OpenAI, to je snažan pokazatelj da rizici nisu samo spekulacija. To je poziv da se ozbiljno razmotri kako da se razvoj AI usmeri tako da bude bezbedan i u skladu sa ljudskim interesima.

Od „Terminator“ scenarija do problema koje već živimo

Postoji i potpuno druga strana rasprave. Deo naučnika kaže: ne pravimo „Terminator“ scenario. Upozoravaju da nas priča o mogućem uništenju čovečanstva odvlači od sasvim realnih problema koje AI već stvara – dezinformacija, gubitka poslova, sajber kriminala, privatnosti i zloupotrebe podataka. Šta je Vama danas veća opasnost?

Ovo je zaista suštinsko pitanje u debati o veštačkoj inteligenciji.

Dve strane rasprave:

• Jedna strana upozorava na dalekosežne rizike – scenarije u kojima bi superinteligencija mogla da postane nekontrolisana.
• Druga strana kaže da je opasnost već tu: dezinformacije, gubitak radnih mesta, sajber kriminal, masovni nadzor i zloupotreba podataka.

Šta je danas veća opasnost:

• Kratkoročno: realni, opipljivi problemi već utiču na društvo. Lažne vesti generisane AI-jem, manipulacija javnim mnjenjem, krađe identiteta i automatizovani sajber napadi su svakodnevna pretnja.
• Dugoročno: rizik od nekontrolisane superinteligencije je manje izvestan, ali bi posledice bile mnogo dramatičnije ako se ostvari. Zato ga istraživači ne smeju ignorisati.

Zaključak: Danas je veća opasnost ono što već vidimo – dezinformacije, gubitak poslova i zloupotreba podataka. Ali to ne znači da treba zanemariti dugoročne rizike. Najveći izazov je da se istovremeno bavimo i neposrednim problemima i pripremom za buduće scenarije.

Prof. Petar Kočović: AI postaje konkurent u „ljudskim“ profesijama

Kada smo razgovarali 2023, naveli ste i drugu stranu – robote koji ljude menjaju na opasnim poslovima u livnicama, čeličanama i fabrikama. Danas AI više ne menja samo manuelni rad: ulazi u novinarstvo, programiranje, pravo, medicinu, obrazovanje i kreativne profesije. Da li se ostvaruje ono što smo tada očekivali – da će mašine preuzeti rutinske poslove, a ljudi raditi složenije – ili AI sada počinje da konkuriše čoveku upravo u poslovima koje smo smatrali „ljudskim“?

Ovo pitanje pokazuje koliko se rasprava o ulozi AI promenila u poslednjih nekoliko godina.

Očekivanje iz 2023. Tada je dominirala ideja da će mašine preuzeti rutinske, opasne i fizički zahtevne poslove – rad u livnicama, čeličanama, fabrikama – dok će ljudi ostati fokusirani na složene, kreativne i odlučivačke zadatke.

Stanje danas (2026). AI više nije ograničen na zamenu manuelnog rada. Ulazi u:

• Novinarstvo – generiše vesti, analize i čak komentare.
• Programiranje – piše i optimizuje kod, testira softver.
• Pravo – analizira ugovore, presedane, priprema pravne dokumente.
• Medicina – pomaže u dijagnostici, analizi snimaka, predviđanju rizika.
• Obrazovanje – kreira testove, personalizuje nastavu.
• Kreativne profesije – piše scenarije, komponuje muziku, dizajnira vizuale.

Ključna promena: AI više ne konkuriše samo u „rutinskim“ zadacima, već ulazi u oblasti koje smo dugo smatrali isključivo ljudskim – kreativnost, interpretacija, odlučivanje.

Šta to znači:

• Da, ostvarilo se očekivanje da mašine preuzimaju rutinu.
• Ali istovremeno – AI sada konkuriše čoveku i u „ljudskim“ profesijama. To ne znači da će ih potpuno zameniti, već da će ljudi morati da redefinišu svoju ulogu: više kao nadzornici, interpretatori i stratezi, a manje kao izvršioci zadataka.

Zaključak: Mašine jesu preuzele rutinske poslove, ali su istovremeno počele da ulaze u domene koji su se smatrali otpornim na automatizaciju. To je najveća promena u odnosu na očekivanja iz 2023.  AI više nije samo „pomoćnik“, već postaje konkurent u oblastima koje smo smatrali suštinski ljudskim.

Treba li da se plašimo veštačke inteligencije?

Pre tri i po godine pitali smo i sam ChatGPT da li treba da ga se plašimo. Odgovorio nam je: „Ne treba se plašiti, ali treba biti svestan potencijalnih rizika i zloupotrebe od strane čoveka.“ Kada taj odgovor čitate danas, deluje li Vam i dalje tačno? Da li je najveći rizik i dalje čovek koji upravlja tehnologijom – ili biste danas toj rečenici nešto dodali?

Citat iz pre tri i po godine – „Ne treba se plašiti, ali treba biti svestan potencijalnih rizika i zloupotrebe od strane čoveka“ – i danas ostaje suštinski tačan. Najveći rizik jeste i dalje čovek koji upravlja tehnologijom: odluke o tome kako se AI koristi, u koje svrhe i sa koliko kontrole.

Ali danas bismo toj rečenici morali da dodamo jedan važan nastavak: rizik nije samo zloupotreba od strane čoveka, već i sama složenost sistema koji mogu da se ponašaju na načine koje ni njihovi tvorci ne predviđaju.

Današnja slika rizika:

• Čovek kao faktor opasnosti: zloupotreba u političke, vojne ili kriminalne svrhe.
• Tehnologija kao faktor opasnosti: modeli koji postaju sve autonomniji i čije odluke nije lako unapred kontrolisati.
• Kombinacija: najveća pretnja nastaje kada se ljudska namera i tehnološka nepredvidivost spoje.

Zaključak: Odgovor iz 2023. i dalje važi, ali danas bismo ga proširili: „Ne treba se plašiti, ali treba biti svestan potencijalnih rizika – kako od zloupotrebe od strane čoveka, tako i od nepredvidivog ponašanja samih sistema.“

Da li treba da se plašimo veštačke inteligencije? I ako odgovor nije strah – šta bi države, kompanije i mi kao korisnici morali da uradimo sada, pre nego što sistemi postanu sposobniji nego što možemo da predvidimo?

Ne, ne treba da se plašimo same veštačke inteligencije kao „čudovišta“. Strah parališe, a ono što nam je potrebno jeste svest i delovanje.

Šta države moraju da urade:

• Uvesti jasne regulative i standarde bezbednosti za razvoj i primenu AI.
• Obezbediti transparentnost – da javnost zna kako se modeli treniraju i u koje svrhe se koriste.
• Investirati u nezavisne institucije za nadzor koje mogu da procene rizike i spreče zloupotrebe.

Šta kompanije moraju da urade:

• Ugraditi etičke protokole u razvoj – da se modeli testiraju ne samo na efikasnost, već i na bezbednost.
• Postaviti granice upotrebe (npr. zabrana korišćenja za masovni nadzor ili oružje).
• Sarađivati sa akademskom zajednicom i državama na standardima.

Šta mi kao korisnici možemo da uradimo:

• Biti svesni da AI može da generiše dezinformacije – proveriti izvore.
• Koristiti tehnologiju odgovorno, ne za manipulaciju ili zloupotrebu.
• Podržavati inicijative koje insistiraju na transparentnosti i etici.

Zaključak: Odgovor nije strah, već odgovornost. Ako države, kompanije i korisnici deluju sada – kroz regulaciju, etiku i svest – možemo iskoristiti moć AI za dobro, a istovremeno umanjiti rizike pre nego što sistemi postanu sposobniji nego što možemo da predvidimo.

AUTOR: LENA KARMAN