Ponekad vesti iz sveta veštačke inteligencije više liče na zaplet iz serije Faulty Towers nego onaj iz serije Succession, na farsu u maniru Stanlija i Olija nego na šekspirovsku tragediju. OpenAI je tehnološka kompanija koja trenutno privlači najviše pažnje zahvaljujući ogromnom uspehu četbota ChatGPT, njenog najpoznatijeg proizvoda. Neočekivana smena, a ubrzo i povratak Sama Altmana na mesto šefa kompanije očekivano su privukli veliku pažnju začuđenih i zabavljenih globalnih medija.
Neki su vest protumačili kao dokaz nekompetentnosti upravnog odbora; drugi veruju da iza svega stoji povređeni ego. Na jednom dubljem nivou, ovi događaji ukazuju na kontradikcije u samom jezgru visokotehnoloških industrija. Na primer, na kontradikciju između pažljivo negovanog mita o tehno-preduzetnicima kao buntovnim „revolucionarima“ i činjenice da ti isti buntovnici upravljaju čudovištem od industrije vredne mnogo milijardi dolara koja direktno utiče na živote svih nas. Tu je i tenzija između vizije veštačke inteligencije kao mehanizma za poboljšanje ljudskog života i straha da ona predstavlja egzistencijalnu pretnju za čovečanstvo.
Malo je organizacija u kojima su pomenute kontradikcije toliko naglašene i uočljive kao u slučaju kompanije OpenAI. Bogataši iz Silikonske doline koji su je osnovali 2015. godine, između ostalih i Elon Musk i Peter Thiel, videli su sebe kao evanđeliste veštačke inteligencije i proroke koji upozoravaju na moguću pretnju. „Razvojem veštačke inteligencije prizivamo demone“, izjavio je Musk dramatično.
Pošto pored beskrajnog divljenja sebi, kao izuzetnim individuama koje uvode čovečanstvo u budućnost, osećaju i beskrajni pesimizam pri pogledu na druge ljude i društvo u celini, tehnološki titani žive u večnom strahu od apokalipse koja vreba iza ugla. Mnogi od njih su „preperi“ i ozbiljno se spremaju za svet iz filma Mad Max. „Imam oružje, zlato, kalijum jodid, antibiotike, baterije, vodu, izraelske gas-maske i veliki komad zemlje u Big Suru gde uvek mogu da odletim“, rekao je Sam Altman New Yorkeru ubrzo posle osnivanja kompanije OpenAI. Svi najbolji preduzetnici su „paranoici, mučeni egzistencijalnim krizama“, dodao je. Jedan od razloga za paranoju je veštačka inteligencija.
Kompanija OpenAI osnovana je kao neprofitni dobrotvorni trust sa zadatkom da razvija opštu veštačku inteligenciju, ili AGI, što je, u načelu, mašina koja može da obavlja sve intelektualne zadatke koje obavljaju ljudi, i više od toga. Ideja je bila da se sagradi mašina koja će to raditi na etički prihvatljiv način i na korist „celokupnog čovečanstva“.
Onda je neprofitna organizacija 2019. godine osnovala profitni ogranak da bi privukla više investitora, u čemu je i uspela kada je od Microsofta dobila više od 11 milijardi dolara. Nadređena neprofitna organizacija je ipak zadržala punu kontrolu, čime je institucionalizovana tenzija između želje za sticanjem profita i apokaliptičnih strepnji zbog proizvoda koji taj profit treba da donesu. Tenzija je dodatno zaoštrena velikim uspehom ChatGPT-a.
Pre dve godine, grupa istraživača zabrinutih zbog tempa razvoja veštačke inteligencije odlučila je da napusti OpenAI i napravi novu organizaciju Anthropic. Jedan od njih je izjavio da „postoji šansa od 20 odsto da se veštačka inteligencija otme kontroli i uništi čovečanstvo u sledećoj deceniji“. Izgleda da su to strahovanja koja su izazvala haos u upravnom odboru i dovela do pokušaja smene Sama Altmana.
Ovde se nameće pitanje o psihologiji ljudi koji nastavljaju da rade na projektu za koji veruju da je sposoban da uništi ljudski rod. Ironija je u tome što sam taj strah, očigledno preuveličan, predstavlja veliku opasnost. Preuveličavanje strahova posledica je prevelikih očekivanja od veštačke inteligencije. ChatGPT je dobar kada treba pogoditi sledeću reč u nizu, dovoljno dobar da nam se učini da razgovaramo s čovekom. Ali mašina ne zna šta te reči znače onako kako mi to znamo, a njeno razumevanje stvarnog sveta je neznatno. Daleko smo od sna o „opštoj veštačkoj inteligenciji“. „AGI se neće pojaviti“, tvrdi Grady Booch, šef softverskog inženjeringa u IBM-u, „čak ni za života dece vaše dece“.
Ljude iz Silicijumske doline, koji misle drugačije i očekuju da AGI svakog časa postane stvarnost, veruju da se čovečanstvo mora zaštititi „prilagođavanjem“ – osiguravanjem da veštačka inteligencija uvek bude „prilagođena ljudskim vrednostima i ljudskim intencijama“. To zvuči kao dobar način da se spreči moguća katastrofa. Dok ne stignemo do pitanja o tome šta su „ljudske vrednosti“, ko je pozvan da ih definiše i šta se događa u slučaju njihovog sukoba?
Društvene vrednosti su oduvek bile predmet sporenja, a posebno danas, u doba apatije i otuđenosti izazvanih slomom opšteprihvaćenih standarda. Predmet debate je i sam odnos prema tehnologiji. Neki ljudi veruju da su suzbijanje mržnje i zaštita ličnosti u onlajn svetu važniji od prava na slobodu govora i zaštitu privatnosti. To su stavovi ugrađeni u novi britanski Zakon o onlajn bezbednosti. Ali mnogi strahuju od mogućih posledica tog zakona.
Tu je i problem dezinformacija. Malo ko se neće složiti da dezinformacije već predstavljaju ozbiljan problem koji će u budućnosti biti sve veći, što otvara komplikovana pitanja o demokratiji i poverenju. To je povod za žučne polemike, tim pre što u pokušajima suzbijanja dezinformacija velike tehnološke kompanije dobijaju još šira ovlašćenja za kontrolu javnosti i javnog mnjenja.
Takođe, problem pristrasnosti mašinskih algoritama otkriva slabu tačku u argumentu o „prilagođavanju“ mašina ljudskim vrednostima. Algoritmi pate od istih predrasuda i pristrasnosti kao i ljudi, naročito kada su u pitanju manjine, upravo zato što se prilagođavaju ljudskim vrednostima. Veštačka inteligencija se obučava na podacima iz stvarnog ljudskog sveta koji obiluje diskriminatornim praksama i idejama. Te ideje se ugrađuju u AI softver, na primer, u pravosuđu i zdravstvu, kao i u sisteme za prepoznavanje lica ili selekciju kandidata.
Pravi problem pred nama nije mogućnost da mašine u dalekoj budućnosti porobe ljude. To je spekulacija bez utemeljenja u sadašnjim znanjima o veštačkoj inteligenciji. Problem je to što već živimo u društvu u kom je mali broj ljudi u prilici da koristi nagomilanu moć na štetu većine. Tehnologija je samo sredstvo konsolidacije te moći. Naravno da ljudima koji poseduju društvenu, političku i ekonomsku moć odgovara da se problem prikaže kao tehnološki, a ne društveni, i da se projektuje u budućnost, umesto da mu se posvetimo u sadašnjosti.
Nema mnogo alatki koje su ljudi izumeli koje se ne mogu iskoristiti za pravljenje štete. Ali one to ne čine same od sebe; to mogu činiti samo ako ih ljudi iskoriste na taj način, naročito oni koji imaju moć. To bi trebalo da bude polazna tačka naše rasprave o veštačkoj inteligenciji, a ne fantazije o kraju čovečanstva.
The Guardian, 26.11.2023.
Preveo Đorđe Tomić
Peščanik.net, 05.12.2023.
Srodni link: London Review of Books – Problem usklađenosti
NOVE TEHNOLOGIJE