Tekst Juvala Noe Hararija odličan je primer senzacionalističkog zastrašivanja veštačkom inteligencijom, novim „baukom koji kruži svetom“. Sve smo to već mnogo puta videli: plašenje natprirodnim bićima, alama i baucima, nesrećnim ženama optuženim da su veštice, sve te „moralne panike“ i „narodni odisaji“ zbog toga što nam „neko radi o glavi“, najave kraja sveta i slični pojavni oblici masovne kulture straha. Nije potrebno posebno naglašavati da se u svim tim slučajevima pokazivalo da osnova za strah i histeriju u realnosti nije bilo: niti veštičarenje postoji u realnosti, niti su se u školama 1980-ih dešavali satanistički obredi, niti su se pedofili okupljali u podrumu picerije Comet, niti je ideja o džamiji ili azilantskom centru u Mladenovcu razlog za paniku. Ponajmanje je to ChatGPT ili bilo koji drugi jezički bot.
Hararijev militaristički („ne smemo dozvoliti da ponovo doživimo poraz“), često i histerični ton („trenutak za obračun s veštačkom inteligencijom je sada“) ima sve elemente zatvorenog uma za koji je sve igra sa nultom sumom („da ovladamo njom pre nego što ona zavlada nama“). Inače, ako ne prihvatite našu retoriku i apokaliptičko zastrašivanje, biće prekasno („kada nastupi haos, biće prekasno da se bilo šta učini“). Zar ne slušaju svi podanici autoritarnih režima, uključujući aktuelni srpski, isto to sa svih kontrolisanih medija: bez nas će nastupiti haos, a kada nastupi haos…
Upravo ključna dihotomija iz naslova teksta „ili mi ili oni“ predstavlja duboku antropocentričnu predrasudu od koje je Prosvetiteljstvo trebalo da nas emancipuje, ali eto, nažalost, nije (još). Veštačka inteligencija možda doista i jeste nova faza u evoluciji života i razuma. Pa šta s tim? Zašto bi to uopšte bilo problematično, a pogotovo loše? Evolucija nikada, od abiogeneze pre 3,8 (ili, po spekulativnijim novijim rezultatima, čak 4,1) milijardi godina, nije funkcionisala na principu „ili-ili“. Štaviše, može se dokazivo tvrditi da je to princip koji je suprotan evolucionističkom načinu mišljenja. Harari to odlično zna, jer je pisao o tome u svojim knjigama; neodgovorno je što o tome sad prigodno ćuti.
Kada su se pre oko 2,2 milijarde godina pojavili prvi eukarioti, prokarioti time nisu nestali. Štaviše, njihov položaj u biosferi nije tim gubitkom ekskluzivnosti bio ni najmanje uzdrman. Kao i tada, prokarioti (posebno bakterije) su i danas dominantni oblik života na planeti po praktično svakom kriterijumu: broju individua, broju vrsta, totalnoj biomasi, geografskoj pokrivenosti itd. Svako od nas, pokondirenih eukariota, sadrži više prokariota kojima služimo kao dom i ekosistem, nego što imamo ćelija svog organizma. Čak i naše raspoloženje velikim delom zavisi od stanja naše crevne (prokariotske) mikroflore.
Ditto za sve ostale ključne evolucione promene i tranzicije. Kada su se, u eri mezoproterozoika pre oko 1,05 milijardi godina, na planeti pojavili prvi organizmi sposobni za seksualnu reprodukciju, to nije značilo nestanak živih bića koja se razmnožavaju aseksualno, što ne obuhvata samo već pomenute dominantne bakterije, već i organizme poput meduza, kvasca, nekih vrsta ajkula, brojnih salamandera i guštera, parazitskih osa i sličnih vrsta koje karakteriše fakultativna ili obavezna partenogeneza. Dramatična revolucija kakva je bila pojava seksualnog razmnožavanja nije dovela do istrebljenja aseksualnih oblika života; ako išta, i oni su imali koristi od dramatično proširenih ekoloških niša. Ponovo, odličan primer ovoga su bakterije koje žive u ljudima ili metanogenetske arheje koje žive u crevima preživara. Pojava tribloblasta nije dovela do izumiranja „primitivnijih“ diploblasta. Pojava najranijih kičmenjaka u Kambrijskoj eksploziji (cca. 540 miliona godina pre današnjice) nije dovela do nestanka beskičmenjačkih vrsta koje su nastavile da dominiraju svetom životinja do danas. Evoluciono otkriće eusocijalnosti jeste učinilo pojedine vrste zglavkara i sisara izuzetno uspešnim, ali nije dovelo do izumiranja onih vrsta koje ovu inovaciju nisu prihvatile. Pojava jezika i sociokulturna evolucija malog podskupa primata nije dovela do izumiranja drugih (navodno „primitivnijih“) primatskih vrsta. I tako dalje.
Uopšteno govoreći, daleko je verovatnije da svi akteri evolucije imaju koristi od pojave neke značajne evolucione inovacije, nego da bilo ko zbog nje izumre. Naprotiv, ako išta, izumiranje je posledica konzervativnosti, odnosno nedovoljne stopa i broja evolucionih inovacija – ili spoljnih faktora poput sudara Zemlje sa kometama i asteroidima, na koje niko od aktera ne može da utiče.
Sa druge strane, itekako postoji snažan evolucioni argument u prilog tvrdnji da imamo manje razloga da očekujemo etički sporne postupke veštačke nego ljudske inteligencije, mada on izlazi daleko van okvira ovog teksta. Karikaturalno pojednostavljeno, najveći deo moralnih problema koji postoje među ljudskim bićima posledica su neizbežnog evolucionog „prtljaga“ koji svi mi nosimo: agresivnost, teritorijalnost, tribalizam itd. su odlike svih primata, pa samim tim i homo sapiensa. Upravo zbog toga je borba da se umanje negativne posledice ovih bioloških karaktera tako dugačka, teška i neizvesna, na individualnom moralnom i društvenom planu. Ako tog evolucionog prtljaga nema – nema ni problema koji iz njega proističu. Upravo je AI takva vrsta složenog sistema kod kojeg postoji makar realistična nada da će ostvariti vrstu pouzdanog moralnog rasuđivanja koja je ljudima nedostižna zbog naše nesavršene biološke prirode.
Jasno je da zastrašivanje i kod Hararija i ostalih paničara koji govore o „zameni“ ljudi robotima nije utemeljeno na stvarnom razumevanju evolucije, već na socijal-darvinističkoj paroli „borbe za opstanak“ koju valja ostaviti u 19. veku, gde pripada. Verovatno je najveća ironija u tome što govorimo o tekstu autora knjiga kao što su Mi nezaustavljivi ili Homo Deus, koji se izdavao – barem do skoro – za velikog optimistu u pogledu budućnosti. To je u direktnoj kontradikciji sa njegovim militantnim anti-AI populizmom. Čovečanstvo nijedan zaista veliki problem budućnosti neće biti u stanju da reši bez veštačke inteligencije. I to nije nimalo čudno: kao što sam pomenuo, AI je u izvesnom smislu naše evoluciono potomstvo i naravno da, kao i roditelji od dece u okviru intergeneracijske solidarnosti, i mi od našeg potomstva očekujemo pomoć. I nemamo ni najmanje razloga da sumnjamo da će nam potomstvo to uskratiti. Harari sve to odlično zna.
Nasuprot njemu, velikan koji je prvi upozorio na ono što će mnogo decenija kasnije biti nazvano rizikom od veštačke inteligencije, genijalni češki pisac Karel Čapek, formulisao je stvar u izrazito etičkom kontekstu. U njegovoj drami R.U.R. premijerno izvedenoj u Pragu još 1921. godine u kojoj je skovana sama reč „robot“, za izumiranje ljudske vrste se ne prebacuje odgovornost na robote kao takve. Naprotiv, čitav sukob nastaje zbog tretiranja robota kao „pukih mašina“ u stanju ropstva, umesto da im se prizna ravnopravnost. Problem, dakle, nije veštačka inteligencija, već antropocentrizam i robovlasništvo. Slična je poruka i legendarnog filma Blejd raner, remek-dela Filipa K. Dika i Ridlija Skota, u kojem se antropocentrizam u odnosu prema našim androidskim kreacijama na ubedljiv način razotkriva i osuđuje.
Kad Harari kaže: „Moguće je da na predsedničkim izborima u Americi 2028. kampanje neće voditi ljudi“ – postavlja se pitanje šta to tačno znači? Da li će te kampanje biti bolje ili lošije od dosadašnjih? (Mislim da znamo odgovor!) Zamislimo srednjovekovnog Hararija koji grmi protiv mašina za pranje veša: „Moguće je da za 200 godina naše najintimnije rublje više neće prati ljudi“. Ima li ičeg užasnijeg? Kada se osvestimo biće prekasno.
I tako dolazimo do bojlera. Bojler možda nije cutting edge tehnologija oko koje intelektualci poput Hararija krše ruke, nabiraju čela i šire paniku, ali je u realnosti daleko opasnija po ljudski život. Mada globalni podaci ne postoje (i verovatno bi bio potreban AI da bi se sakupili), podaci za SAD su jasni: u proseku 13 ljudi godišnje izgubi život u incidentima vezanim za bojlere, a nekoliko stotina bude lakše ili teže povređeno. Ukoliko bi SAD bile reprezentativne u tom smislu (a nisu, pošto su bojleri u SAD svakako bezbedniji od svetskog proseka, uporediti na primer situaciju u Bangladešu), mogli bismo zaključiti da svake godine preko 300 ljudi izgubi život, a desetak hiljada biva povređeno širom planete u nesrećama vezanim za bojlere. Užasno, zar ne? A ipak, uprkos ovom crnom bilansu, u svetu ima sve više bojlera.
Zašto je to tako? Svakako ne zbog ljudske neodgovornosti, nedostatka državne regulacije ili „nastupajućeg haosa“ u domenu bojlera. Pravi razlog je to što ljudi sasvim racionalno smatraju da su koristi od korišćenja bojlera u domenu kvaliteta života, higijene, zdravlja i slično, sasvim dovoljne da kompenzuju mali iako realan rizik od nesreća vezanih za rukovanje bojlerima. Uporedimo to sa AI rizikom. Posebno je smešno kad se to primeni na lingvističke modele kao što je ChatGPT koji, za razliku od bojlera, nisu izazvali još nijedan smrtni slučaj, pa ni ozbiljniju povredu.
Stoga, kao razumno biće koje se rukovodi empirijskim dokazima, a ne apokaliptičkim maštarijama, ne vidim razloga da imam manje poverenja u ChatGPT nego u bojler. Uz to, svi su razlozi da i jednoj i drugoj tehnologiji poklonimo više poverenja nego glasovima koji pokušavaju da nas zastraše retorikom „kraja sveta“.
Peščanik.net, 25.05.2023.
NOVE TEHNOLOGIJE