AI Action Summit (Pariz, 10. i 11. veljače) nije bio mjesto smislene debate o rizicima umjetne inteligencije. Čini se da su jedino njezini podržavatelji bili pozvani na događaj, dok su se skeptici izrazili naknadno. Jesu li protivnici umjetne inteligencije samo sljedeća skupina koja pruža otpor neminovnom napretku čovječanstva, ili postoje suvisli razlozi za reći da je ona “korak predaleko”?
Od 10. do 11. veljače 2025. pariški Grand Palais ugostio je globalni samit o budućnosti umjetne inteligencije. Palača je pokazivala čipove, programe, sučelja i mehaničke udove, koje su ljudi sa zanimanjem gledali. Za njih, to je početak novog doba, u kojemu znanost i tehnika ponovno rješavaju sve ljudske probleme, u kojemu progres ponovno vodi čovječanstvo…
Ovaj dvodnevni događaj, nazvan AI Action Summit, od iznimne je povijesne važnosti. On je treći takav samit u posljednjih godinu dana, a svrha mu je bila pomiriti strahove i uzbuđenja međunarodne zajednice, odnosno ustanoviti kako regulirati tu industriju. Popis gostiju, na kojemu su bili najvažniji predstavnici privatnog i javnog sektora, pokazuje da postoji ozbiljan angažman da se umjetna inteligencija razvije i što prije integrira u većinu društvenih sustava, od telekomunikacija, do administracije, prijevoza i zdravstva. Raspoloženje u dvorani bilo je očito – ekstaza, euforija, uzbuđenost. U jednom trenutku moderatorica je pitala publiku: “Tko se od vas boji umjetne inteligencije?” Među stotinama ljudi, digla se samo jedna ruka. Potom je pitala: “Tko je pun nade oko umjetne inteligencije?” Gotovo cijela dvorana, stotine diplomata, dižu ruke nasmiješenih lica. “Imamo sobu punu optimista!”, viknula je moderatorica.
Jedini trenutak trijeznosti na cijeloj konferenciji došao je kada je tajnik UN-a Antonio Guterres rekao: “Jesmo li spremni za budućnost? Ne. Mi nismo spremni ni za sadašnjost.” No, taj trenutak brzo je prošao, i nestao u sveopćoj atmosferi optizmizma i uzbuđenja.
Američku delegaciju predvodio je potpredsjednik J.D. Vance, koji je svoj govor započeo rekavši: “Nisam ovdje da govorim o sigurnosti UI, već o njezinim mogućnostima”, što je sasvim suvisli sažetak američke pozicije u pregovorima. Prema njima, mogućnosti dolaze prije sigurnosti. Vance UI-i pristupa kao što njegova Republikanska stranka pristupa industriji općenito – treba ostaviti razvijanje poduzetnicima, a regulacije svesti na mrtvo slovo na papiru. “Budućnost neće izgraditi kukanje o sigurnosti”, kaže Vance. Njegov govor bio je krajnje perfidan – sastavljen je da ponuka pionirski duh onih koji su uzbuđeni oko umjetne inteligencije: “Pozivam svoje europske prijatelje da gledaju s optimizmom na ova neistražena područja”.
No, oni koji sumnjaju u ta područja u govoru su mogli čuti prikrivene prijetnje: “Trumpa jako zabrinjava čuti da neke države razmišljaju o regulaciji. Amerika ne može i neće dopustiti da strane vlade vrše pritisak na američke tehnološke kompanije.” Drugim riječima, Amerika misli predvoditi ono što Vance naziva “revolucijom umjetne inteligencije”, a Trumpova vlada neće dopustiti otpor suverenih država na svojim vlastitim teritorijima. Kada je to rekao, nije mislio na Ugandu, Tursku ili Indoneziju, već na Europu. Već u sljedećoj rečenici spomenuo je sukob američkih digitalnih kompanija i regulatornih agencija Europske Unije. Govor ocrtava vidljivo suparništvo, skriveno ispod površnog partnerstva, između SAD-a i Europske Unije. Različiti pristupi umjetnoj inteligenciji na Pariškom samitu, između neobuzdanosti SAD-a i opreza EU-a, proizlaze upravo iz ovog suparništva.
No, govor Ursule von der Leyen ne ostavlja dojam da je oprez kojim Europa pristupa umjetnoj inteligenciji tako značajan kao što bi neki pomislili. Predsjednica Europske komisije činila se jednako gladnom mogućnostima UI kao Vance. U govoru je rekla da “želi da Europa postane jedan od vodećih kontinenata umjetne inteligencije”, a Europljanima je preporučila da “prihvate način života u kojemu je UI posvuda”. Ono što nju zabrinjava nisu posljedice neregulirane tehnologije, upravo suprotno, nju zabrinjava mogućnost da Europska unija ne razvije tu tehnologiju dovoljno brzo, te da zaostane za Amerikom i Kinom. Pri kraju govora ipak se sjetila spomenuti da je, radi sigurnosti, Europski parlament u lipnju 2024. donio Akt o umjetnoj inteligenciji, koji postavlja mjere opreza i regulacijske agencije diljem EU. No tomu je von der Leyen dodala_ “Znam, morat ćemo olakšati put umjetnoj inteligenciji i popustiti zakonska ograničenja. To ćemo učiniti.”
Europska pozicija se polako formira. Ona neće stajati na putu razvijanja umjetne inteligencije, koju von der Leyen naziva “darom za čovječanstvo” i “silom za dobro”. EU želi parirati Americi i Kini, te stvoriti vlastiti model umjetne inteligencije, baziran, navodno, na europskim vrijednostima. Uloga zakona i regulacija je nejasna – iako Europa pristupa UI-ju znatno opreznije od SAD-a, ona će nevoljko razmišljati o bilo kojem zakonu koji bi usporio rast ove tehnologije kojom su svi opčinjeni.
Konferencija je završila potpisivanjem dvaju dokumenta. Prvi se zove Pariška deklaracija za održavanje ljudske kontrole nad UI oružanim sustavima, koja obvezuje države potpisnice da primjenjuju međunarodne zakone na oružane sukobe u kojima se koristi umjetna inteligencija, te da odgovornost u ratnim akcijama ne prebacuje na digitalne programe, protiv kojih se ne mogu voditi sudski postupci. Ovaj dokument je potpisalo samo 26 zemalja, a države za koje je taj dokument najvažniji (SAD, Kina, Rusija) nisu među njima. Zato je malo vjerojatno da će on imati ikakav utjecaj na vojne sukobe u koje je trenutno upregnuta umjetna inteligencija – na dronove koji se koriste u Gazi i Ukrajini.
Drugi i važniji dokument zove se Izjava o uključivoj i održivoj umjetnoj inteligenciji za ljude i planet. On okvirno poziva da umjetna inteligencija bude orijentirana na ljudska prava i da njezino razvijanje bude u skladu s međunarodnim zakonima. Ima 62 potpisnice, među njima su Europska Unija, Komisija Afričke Unije, Kina i Brazil, dok su Ujedinjeno Kraljevstvo i SAD odbile potpisati dokument. Iako su oba dokumenta od spornog učinka, moguće je da oni posluže kao pravna podloga budućoj regulaciji.
Sve u svemu, samit nije bio mjesto smislene debate o rizicima umjetne inteligencije. Tema je ogromna, a samit je trajao samo dva dana. Mišljenje o samitu, i o UI općenito, podijeljeno je u dva tabora – skeptici i podržavatelji. Čini se da su jedino podržavatelji bili pozvani na događaj, dok su se skeptici izrazili naknadno putem medija. Na ovoj povijesnoj prekretnici, važno je razumjeti pozicije obje grupe, jer oba stava podržavaju suvisli argumenti.
Kamp podržavatelja izgleda ovako. Postoje oni, upućeni u njezino funkcioniranje, koji misle da se radi o sljedećoj u nizu mnogih revolucija u razmišljanju i djelovanja čovjeka. Poput renesanse, koje je novim znanjima osvijetlila mrak srednjeg vijeka, ili industrijske revolucije, koja je otključala energetsku vrijednost prirodnih materijala i upregnula je prema ljudskim potrebama. Takvi događaji su okruženi negodovanjem i strahom, jer se ljudi boje onoga što ne poznaju, no nakon njih ljudska vrsta ne samo da preživi, nego se nađe na znatno naprednijem položaju. U tehnici, društvu i umjetnosti, može se razaznati evolucijski hod koji u svakom trenutku dijeli zajednicu na “stare” i “nove”, od kojih se stari odupiru, pa prihvaćaju nove ili izumiru. Svaka struja u umjetnosti mora preživjeti napad od “stare škole” prije nego što postane popularna, svaka novina u tehnici mora čuti bijes onih koje će njezino djelovanje učiniti suvišnim. U svijetlu toga, treba se zapitati jesu li protivnici umjetne inteligencije samo sljedeća skupina koja pruža otpor neminovnom napretku čovječanstva ili postoje suvisli razlozi za reći da je ona “korak predaleko”.
Mogućnosti su zaista ogromne. Umjetna inteligencija sa svojom mogućnosti brzog učenja može pomoći ljudima u raznim problemima od egzistencijalne važnosti. Može razviti lijekove za trenutno neizlječive bolesti gledajući uzorke u ljudskim stanicama, može pomoći poljoprivredi tako da razvije biljke otporne na sušu, na bolesti i na nametnike, što može značajno umanjiti problem gladi u svijetu. Najveći ljudski problem 21. stoljeća – globalno zatopljenje – također može biti riješen umjetnom inteligencijom, koja bi, na primjer, pratila otapanje ledenjaka, uzorke u promjeni vremena, pojave požara i suša, reguliranje trošenje energije u kućanstvima, te pomogla u razvijanju tehnologija koje nisu ovisne o fosilnim gorivima. No, kamp podržavatelja ne tvrdi da rizika nema.
Oni prije svega tvrde da je umjetna inteligencija alat kao i svaki drugi, te da njezina etičnost proizlazi najprije iz onih koji je koriste, a ne iz naravi samog alata. Među njima je Alain Celisse, profesor primijenjene matematike na Sorbonni, koji u razgovoru za H-Alter kaže: “Inzistiram na tome da UI sama po sebi nije problem. Nikada ne bismo okrivili automobil za prometnu nesreću, pa tako ne bismo trebali ni umjetnu inteligenciju za moguće štete koje proizlaze iz neodgovornog korištenja.”
Kamp skeptika, s druge strane, misli da je rizik UI jednostavno prevelik, te da on zasjenjuje mogućnosti koje ona donosi. Prvi od razloga brige je brzina. Nalazimo se u globalnoj utrci za najboljim i najbržim UI programom, u kojoj prvo mjesto znači ekonomska, vojna i tehnološka prednost. Svaka država zna da onoliko koliko regulira umjetnu inteligenciju, toliko će zaostajati za svojim suparnicima, dakle zaostati za ostatkom svijeta, postati periferija razvijenijih područja i biti podčinjen onima koju su u takvoj utrci pobijedili. Zato J.D. Vance poziva protiv opreza, jer se boji da će razvijanje UI u skladu s ljudskim pravima ostaviti SAD u lošoj poziciji s obzirom na Kinu, koja nije opterećena pravima svojeg stanovništva i može ići punom parom naprijed. Argument se svodi na ovo – brzina koju nameće takva utrka ne ostavlja puno mjesta za javnu raspravu, a kamoli za razvijanje pravnih okvira koji bi zaštitili društvo od negativnih posljedica UI.
Drugi važan rizik je činjenica da se razvijanje UI događa unutar vrlo malog broja kompanija. Moguće je stoga da će moć koju će stvoriti ovaj alat biti koncentrirana oko malog broja ljudi. Jedna opasnost koja stoji iza toga je da “kompanije, zbog svojeg velikog utjecaja, postanu jedini sugovornik državama u formiranju regulacija”, te da je malo vjerojatno da će se te kompanije zalagati za regulacije koji bi im umanjile profit”, kako nam kaže Alain Celisse. Te kompanije često upotrebljavaju korisnike kao neplaćenu radnu snagu, kao u nekakvom digitalnom feudalizmu. Svaki put kada koristimo ChatGPT, na primjer, mi ga poboljšavamo, jer on uči u interakciji s korisnikom. Budući da je taj program besplatan, kompanija OpenAI postiže profit tako da prodaje neplaćeni rad tih korisnika (novu verziju programa), ili tako da preko korisnika profilira društvo i prodaje te podatke drugim kompanijama ili stranim državama. Ako je proizvod besplatan, a kompanija postiže profit, moramo se zapitati što je zapravo kupljeno i prodano.
Također je moguće da UI poveća moć alata diktature koje su već prisutne u društvu – na primjer, metode nadzora i profiliranja. Isti program koji pomaže doktoru da identificira tumor na slici kože i izliječi pacijenta, može pomoći vladinoj ili nevladinoj agenciji da pronađe pojedinca gdje god se nalazi. Takav je alat, u rukama Putinovog FSB-a ili kineskog režima, zastrašujuć. Kina je već sada društvo premreženo kamerama, preko kojih UI profilira pojedince i daje im “društveni rejting.” Ako rejting padne ispod određene brojke, država čovjeku oduzima putovnicu, uskraćuje mu neka prava (poput obrazovanja djece), a prijeti mu čak i uhićenje. Kamp skeptika upozorava da razvijanje UI omogućava autoritarnim silama da budu još autoritarnije.
Ali zapravo najveći strah koji kruži nije vezan za ekonomiju i politiku. Prvi strah jest strah od neljudskog – UI je strašna jer imitira čovjeka, a to nije. Osjećaj koji ona izaziva Freud naziva “das Unheimliche”, odnosno “jezivost” – nešto što se čini poznato, srodno, blisko, a ipak je duboko strano. Postoje stvarni ekonomski i politički razlozi za brigu, no ispod njih, i možda neovisno o njima, djeluje taj psihološki učinak. Ako se zaista zagledamo u androida, koji osjećaj navire u svijest? Kamp podržavatelja bi na taj strah rekao da se on bazira na antropocentričnosti, iracionalnoj želji da čovjek kontrolira sve i da sebe smatra jedinim bićem na svijetu koje ima određene kapacitete – emocije, razum, inteligenciju. Umjetna inteligencija razbija tu antropocentričnost jer se pojavljuje kao nešto izvan čovjekove kontrole, i njemu potpuno superiorno. Čovjek, u kontaktu s time, odustaje od svoje pozicije gospodara svijeta, i vraća se ulozi “jednog od mnogih bića u svemiru”, niti najpametnijeg, niti najposebnijeg. Umjetna inteligencija bi stoga, prema nekim zagovarateljima, vratila ljudskom rodu davno izgubljenu skromnost.
Zaista je nemoguće uzeti cijelo jedno razdoblje ljudske povijesti i na njega nalijepiti etičku kategoriju. Isto to vrijedi i za doba koje tek počinje – doba umjetne inteligencije. Kao što je period u kojemu su do sada ljudi živjeli, koji okvirno zovemo modernost, donio penicilin i urbanu tjeskobu o kojoj piše Baudelaire – isto tako će i doba umjetne inteligencije donijeti svoje lijekove i otrove. Suludo je nakon posebno depresivnog Baudelaireovog stiha pomisliti da je cijela ljudska vrsta krenula krivim putem kada je izumila parni stroj. Isto je tako suludo misliti da zbog distopijskih prikaza digitalnog doba, poput Black Mirrora i Blade Runnera, valja smjesta stati protiv svakog digitalnog napretka. No treba ostati oprezan i pažljiv. Alain Celisse tvrdi da je regulacija moguća, no da ona neće spriječiti masovno dezinformiranje ljudi. Od toga se možemo zaštititi jedino ako “obrazujemo djecu, učenike, studente i građane” kako procesuirati sve dostupne informacije, te kako uočiti opasnosti koje se u njima nalaze.
