Strah od umjetne inteligencije (AI) prati čovječanstvo još od samog početka računalne ere. Do sada su se ti strahovi fokusirali na strojeve koji koriste sredstva za ubijanje i porobljavanje ljudi ili da ljude nadomjeste. Međutim, tijekom posljednjih nekoliko godina pojavili su se novi AI alati koji prijete opstanku ljudske civilizacije iz neočekivanog smjera. AI je stekao neke izvanredne sposobnosti manipuliranja i generiranja jezika, bilo riječima, zvukovima ili slikama. AI je tako hakirao operativni sustav naše civilizacije, navodi se u tekstu povjesničara, filozofa i spisatelja Yuvala Noaha Hararija u hrvatskom prijevodu teksta s portala The Economist, a koji donosi portal Lupiga.com.
Jezik je ono od čega je sazdana gotovo sva kultura čovječanstva. Ljudska prava, primjerice, nisu upisana u naš DNK. Naprotiv, ona su kulturni artefakti koje smo stvorili kazujući priče i pišući zakone. Bogovi nisu fizičke stvarnosti. Naprotiv, oni su kulturni artefakti koje smo stvorili izmišljajući mitove i pišući svete spise.
Novac je također kulturni artefakt. Novčanice su samo raznobojni komadi papira, a trenutno više od 90 posto novca nisu čak ni novčanice – to su samo digitalne informacije u računalima. Ono što novcu daje vrijednost su priče koje nam o njemu pričaju bankari, ministri financija i gurui kriptovaluta. Sam Bankman-Fried, Elizabeth Holmes i Bernie Madoff (financijski prevaranti op. pr.) nisu bili osobito dobri u stvaranju prave vrijednosti, ali su svi oni redom bili iznimno sposobni pripovjedači.
Što bi se dogodilo kada bi neljudska inteligencija postala bolja od prosječnog čovjeka u pričanju priča, skladanju melodija, crtanju slika te pisanju zakona i svetih spisa? Kada ljudi razmišljaju o ChatGPT-u i drugim novim AI alatima, često pomisle na primjere kao što su školska djeca koja koriste AI za pisanje svojih zadaćnica. Što će se dogoditi sa školskim sustavom kada djeca to počnu raditi? No, ovakav tip pitanja promašuje širu sliku.
Zaboravite na školske zadaćnice. Razmislite o sljedećoj američkoj predsjedničkoj utrci 2024. godine i probajte zamisliti utjecaj AI alata koji mogu masovno proizvoditi politički sadržaj, lažne vijesti i svete spise za neke nove kultove.
Posljednjih godina kult qAnon okupio se oko anonimnih online poruka, poznatih kao “q drops”. Sljedbenici su skupljali, štovali i tumačili ove „kapi“ kao sveti tekst. Dok su prema našim spoznajama sve prethodne „kapi“ sastavili ljudi, a botovi samo pomogli u njihovom širenju, u budućnosti bismo mogli vidjeti prve kultove u povijesti čije je „svete“ tekstove napisala neljudska inteligencija. Religije su kroz povijest tvrdile da njihove svete knjige nisu ljudskog porijekla. Uskoro bi to mogla biti stvarnost.
Na prozaičnijoj razini, uskoro bismo se mogli naći u podužim online raspravama o pobačaju, klimatskim promjenama ili ruskoj invaziji na Ukrajinu s entitetima za koje mislimo da su ljudi – ali zapravo su AI. Kvaka je u tome da je potpuno besmisleno trošiti vrijeme pokušavajući promijeniti deklarirana mišljenja AI bota, dok bi AI bot mogao izbrusiti svoje poruke toliko precizno da bi imao dobre šanse da utječe na nas.
Svojim ovladavanjem jezikom, umjetna inteligencija može čak uspostaviti intimne odnose s ljudima i iskoristiti moć intimnosti kako bi promijenila naša razmišljanja i naše svjetonazore. Iako nema naznaka da umjetna inteligencija ima vlastitu svijest ili osjećaje, za poticanje lažne intimnosti s ljudima dovoljno je da umjetna inteligencija učiniti da se ljudi osjećaju emocionalno vezanima za nju. U lipnju 2022. godine Blake Lemoine, Googleov inženjer, javno je ustvrdio da je AI chatbot Lamda, na kojem je radio, postao osjećajan. Kontroverzna tvrdnja koštala ga je posla. No, najzanimljivija stvar u ovoj epizodi nije bila tvrdnja gospodina Lemoinea, koja je vjerojatno bila lažna, već njegova spremnost da riskira svoj unosan posao za dobrobit AI chatbota. Ako umjetna inteligencija može utjecati na ljude da zbog nje riskiraju svoja radna mjesta, na što bi ih sve drugo mogla potaknuti?
U političkoj borbi za umove i srca, intimnost je najučinkovitije oružje, a AI je upravo stekao sposobnost masovne proizvodnje intimnih odnosa s milijunima ljudi. Svi znamo da su u proteklom desetljeću društvene mreže postale bojno polje za kontrolu ljudske pažnje. S novom generacijom umjetne inteligencije, bojište se pomiče s pozornosti na intimnost. Što će se dogoditi s ljudskim društvom i ljudskom psihologijom dok se AI bori protiv AI-a u bitki za lažiranje intimnih odnosa s nama, odnosa koji se onda mogu koristiti kako bi nas uvjerili da glasamo za određene političare ili kupimo određene proizvode?
Čak i bez stvaranja “lažne intimnosti”, novi AI alati imali bi golem utjecaj na naša mišljenja i svjetonazore. Ljudi mogu početi koristiti jednog savjetnika za umjetnu inteligenciju kao proroka koji sve zna. Nije ni čudo što je Google prestravljen. Zašto se mučiti traženjem, kad mogu samo pitati proroka? Industrija vijesti i oglašavanja također bi trebala biti prestravljena. Zašto čitati novine kada mogu samo zamoliti proroka da mi kaže najnovije vijesti? I koja je svrha reklama, kad mogu samo pitati proroka da mi kaže što da kupim?
A čak ni ovi scenariji zapravo ne prikazuju širu sliku. Ono o čemu govorimo potencijalni je kraj ljudske povijesti. Ne kraj povijesti, već kraj njenog dijela kojim dominiraju ljudi. Povijest je interakcija između biologije i kulture; između naših bioloških potreba i želja za stvarima poput hrane i seksa, i naših kreacija poput religija i zakona. Povijest je proces kroz koji zakoni i religije oblikuju hranu i seks.
Što će se dogoditi s povijesnim tijekom kada AI preuzme kulturu i krene proizvoditi priče, melodije, zakone i religije? Prethodni alati poput tiskarskog stroja i radija pomogli su u širenju kulturnih ideja ljudi, ali nikada nisu stvorili nove vlastite kulturne ideje. AI je bitno drugačiji. AI može stvoriti potpuno nove ideje, potpuno novu kulturu.
U početku će AI vjerojatno oponašati ljudske prototipove na kojima je obučavana u „djetinjstvu“. Ali sa svakom godinom koja prolazi, AI kultura će hrabro koračati tamo gdje nijedan čovjek prije nije otišao. Tisućljećima su ljudska bića živjela u snovima drugih ljudi. U nadolazećim desetljećima mogli bismo se naći kako živimo u snovima neljudske inteligencije.
Strah od umjetne inteligencije proganja čovječanstvo tek zadnjih nekoliko desetljeća. Ali ljude već tisućama godina progoni mnogo dublji strah. Uvijek smo cijenili moć priča i slika u manipulaciji našim umovima i stvaranju iluzija. Posljedica toga je da su se od davnina ljudi bojali biti zarobljeni u svijetu iluzija.
Naravno, nova moć AI-a mogla bi se koristiti i u dobre svrhe. Neću duljiti o tome, jer ljudi koji razvijaju AI već dovoljno govore o tome. Posao povjesničara i filozofa poput mene jest ukazati na opasnosti. Svakako, umjetna inteligencija nam može pomoći na bezbroj načina, od pronalaženja novih lijekova za rak do otkrivanja rješenja za ekološku krizu. Pitanje s kojim se suočavamo je kako osigurati da se novi AI alati koriste za dobro, a ne za zlo. Da bismo to učinili, prvo moramo procijeniti stvarne mogućnosti ovih alata.
Autor: Yuval Noah Harari
Prijevod na hrvatski: Lupiga.Com
FOTO: Screenshot, Instagram, Yuval Noah Harari
