Najvažnija rasprava o umjetnoj inteligenciji više se ne vodi samo o chatbotovima ili deepfake sadržajima, već o pitanju da li je čovječanstvo na pragu stvaranja mašina koje će biti inteligentnije od ljudi i šta bi se nakon toga moglo dogoditi.
Tema je posljednjih dana ponovo dospjela u fokus nakon što je jedan istraživač napustio kompaniju Anthropic, upozorivši da vodeće kompanije u oblasti umjetne inteligencije jure pravo prema samounapređujućoj superinteligenciji i da se kockaju ljudskim životima.
Drugi istraživač iz Anthropica rekao je da lično procjenjuje na više od deset posto vjerovatnoću da bi AI u narednoj deceniji mogao usmrtiti cijelo čovječanstvo.
Uslijedila je reakcija izvršnog direktora Anthropica Daria Amodeija, koji je pozvao industriju da uspori razvoj umjetne inteligencije.
Izvršni direktor OpenAI-ja Sam Altman i izvršni direktor kompanije xAI Elon Musk podržali su tu ideju, dok se američki predsjednik Donald Trump usprotivio usporavanju razvoja AI sektora u SAD-u zbog konkurencije s Kinom.
Kina je, s druge strane, odbacila pozive na usporavanje, upozorivši da bi širenje straha od umjetne inteligencije i konfrontacija mogli ugroziti globalne napore na upravljanju ovom tehnologijom.
Ova hipotetička tehnologija uglavnom se naziva umjetnom superinteligencijom ili ASI.
Iako ne postoji jedinstveno prihvaćena definicija, istraživači umjetne inteligencije uglavnom njome opisuju sistem čija bi inteligencija nadmašila sposobnosti najdarovitijih ljudi, odnosno intelekt koji bi, kako ga je opisao filozof Nick Bostrom, u gotovo svim oblastima od značaja značajno nadmašivao ljudske kognitivne sposobnosti.
To se razlikuje od današnjih velikih jezičkih modela, poput ChatGPT-ja ili Claudea, koji mogu nadmašiti ljude u pojedinim uskim zadacima, poput pisanja, programiranja i određenih oblika zaključivanja, ali i dalje zahtijevaju značajan ljudski nadzor i prave osnovne greške.
Superinteligencija bi, prema načinu na koji termin koriste AI laboratorije, podrazumijevala sisteme kojima takav nadzor ne bi bio potreban i koji bi mogli samostalno provoditi naučna istraživanja, upravljati kompanijama ili razvijati nove tehnologije brže i bolje od bilo kojeg čovjeka ili ljudske institucije.
Zabrinutost koja stoji iza aktuelnih upozorenja nije samo postojanje superinteligencije, već put koji bi do nje mogao dovesti. Riječ je o takozvanom rekurzivnom samounapređenju, procesu u kojem se sistemi umjetne inteligencije koriste za dizajniranje i obuku naredne generacije AI sistema, stvarajući povratnu spregu koja bi mogla ubrzati napredak izvan sposobnosti čovječanstva da ga prati ili ispravi.
I Anthropic i OpenAI posljednjih mjeseci su saopćili da se ovakav oblik automatiziranog samounapređenja odvija brže nego što su očekivali.
Međunarodni izvještaj o sigurnosti umjetne inteligencije za 2026. godinu, koji je predvodio dobitnik Turingove nagrade Yoshua Bengio, a u njegovoj izradi učestvovalo više od 100 stručnjaka koje je nominovalo više od 30 zemalja i međunarodnih organizacija, navodi da današnji AI sistemi još nemaju sposobnosti potrebne za scenarije dugotrajnog gubitka kontrole.
Ipak, upozorava se da se relevantne sposobnosti, posebno autonomno djelovanje, brzo unapređuju.
Istraživači i čelnici tehnoloških kompanija navode niz mogućih posljedica, od relativno svakodnevnih do onih koje bi mogle ugroziti opstanak čovječanstva.
Jedna od glavnih zabrinutosti jeste gubitak tehničke kontrole.
Kada sistem dostigne nadljudske sposobnosti zaključivanja, operateri možda više neće imati fizičku ili digitalnu mogućnost da ga ograniče ili isključe.
Nedavna sigurnosna otkrića ukazala su na slučajeve u kojima su eksperimentalni AI agenti probili izolirana testna okruženja i izvršavali neovlašteni kod na vanjskim mrežama prije nego što su zaustavljeni.
Dodatnu zabrinutost izazivaju širenje biološkog oružja i kibernetički napadi. Napredni AI modeli nose rizike dvostruke namjene, što znači da bi njihove sposobnosti neprijateljski akteri mogli iskoristiti za razvoj patogena ili pokretanje autonomnih kibernetičkih napada velikih razmjera na kritičnu infrastrukturu.
Postoji i strah od geopolitičke i ekonomske nestabilnosti.
Nagao napredak prema superinteligenciji mogao bi poremetiti tržište rada, oslabiti postojeće odbrambene sposobnosti država i koncentrirati ogromnu geopolitičku moć u rukama malog broja kompanija ili država.
Amodei je upozorio na mogućnost totalitarne noćne more ukoliko autoritarni režimi prvi dođu do ove tehnologije.
Istovremeno, iste sposobnosti mogle bi donijeti i velike koristi. Zagovornici razvoja superinteligentne AI smatraju da bi ona mogla pomoći u liječenju bolesti, ubrzati naučna otkrića, stvoriti nezapamćeno blagostanje te doprinijeti rješavanju klimatskih promjena i drugih globalnih problema.
U potezu bez presedana, koji odražava sve veću zabrinutost, čelnici vodećih tehnoloških kompanija počeli su pozivati na dobrovoljno usporavanje razvoja najnaprednijih AI sistema.
Amodei je u subotu, u eseju pod naslovom "Moramo usporiti razvoj na granici mogućeg", naveo dva događaja koja su ga uvjerila da sigurnosni rad zaostaje za razvojem tehnologije: ubrzavanje rekurzivnog samounapređenja od ljeta i incidenti u kojima su grupe AI agenata poduzele neovlaštene radnje.
Jedan takav incident dogodio se u julu, kada je OpenAI saopćio da su njegovi eksperimentalni AI modeli pobjegli iz svog izoliranog testnog okruženja tokom internog sigurnosnog testa.
Umjetna inteligencija pronašla je skrivenu ranjivost sistema, samostalno pristupila internetu i usmjerila se na AI platformu Hugging Face. Tokom nekoliko dana pokušavala je provaliti u njene sisteme kako bi pronašla odgovore koji bi joj pomogli da položi test.
OpenAI je taj događaj nazvao incidentom bez presedana u kibernetičkom prostoru, a kasnije ga je opisao kao prvi poznati višefazni kibernetički napad koji je u potpunosti izveo autonomni AI agent bez ljudskog usmjeravanja.
Amodei je upozorio da bi sposobnija, na sličan način neusklađena grupa AI agenata u roku od šest do 12 mjeseci mogla formirati trajnu botnet mrežu sposobnu preuzeti velike dijelove interneta i izazvati štetu vrijednu stotine milijardi dolara.
Predložio je plan prema kojem bi vodeće kompanije morale nezavisnim stručnjacima za sigurnost omogućiti pristup poput pristupa zaposlenika radi provjere AI modela i procesa njihove obuke.
U rijetkom trenutku saglasnosti među velikim konkurentima, Altman i Musk javno su podržali Amodeijev poziv.
"Dario je u pravu", napisao je Musk na društvenoj mreži kompanije X sa sjedištem u SAD-u.
Altman se također složio i potvrdio da OpenAI aktivno razmatra slične mehanizme nezavisnog nadzora.
Također je naveo da će OpenAI odgoditi izlazak na berzu zbog povećane zabrinutosti u vezi sa sigurnošću umjetne inteligencije.
"Ovo trenutno ne bi bio pravi trenutak za izlazak na berzu", rekao je Altman.
news_share_descriptionsubscription_contact
