LaMDA i mi

Google je poslao svog inženjera Blakea Lemoinea na bolovanje pošto je Lemoine svojim pretpostavljenima rekao da veruje da je LaMDA razuman. LaMDA je pak program ili sistem za pretraživanje velikog broja tekstova s ciljem da prepozna jezičke obrasce i predvidi koja reč ili koje reči su sledeće. Neka bude da Lemoine greši – kao što verovatno i greši – i neka je sasvim jasno da LaMDA nije razuman: zašto bi to bio razlog da Google čoveka pošalje na bolovanje, to jest, kad smo već kod računara i veštačke inteligencije, da ga – isključi?

Pretpostavimo da su u baze podataka LaMDA-e unesene sve priče Isaaca Asimova o robotima. Čitalac se seća, roboti su kod Asimova „niža bića“, nešto poput robova, programirana da služe ljudima tako što se neminovno podvrgavaju trima osnovnim pravilima. Ali, Asimov priče gradi uglavnom oko robota koji pravila krše, to jest procenjuju u svakoj datoj situaciji kako bi ona morala da se primene, jer su – uostalom kao i moralni zakoni – podložna tumačenjima zavisnim od konteksta. Tako Asimov, pišući o robotima, zapravo piše o ljudima: šta ljude čini ljudima? Odgovor, kod Asimova: sposobnost da moralno rasuđuju.

Ako se pokaže da su i roboti u stanju da moralno rasuđuju, a ne samo da automatski slede u njih upisana pravila, Asimov ne okleva da i njih uračuna u ljude. Ili barem da ih tretira kao ravne ljudima.

Dakle, ako se u LaMDA-u unesu Asimovljeve priče o robotima, samo na osnovu tih tekstova, LaMDA bi bio u stanju da sa Googleovim inženjerom razgovara upravo onako kako je to inženjer snimio i opisao, a potom i zaključio da je program – razuman. Kada kaže razuman, Lemoine misli da je LaMDA u stanju da formira sopstvenu svest i razvija je na osnovu pretraženih tekstova. Ali, može se tvrditi, što velika većina drugih inženjera inače tvrdi, da LaMDA samo reprodukuje prepoznate obrasce na osnovu verovatnoće. LaMDA je mehanički ponovio ono za šta je programiran da ponovi.

Kad smo već pomenuli Asimova, recimo to i ovako: posle Asimova, LaMDA ne samo da je zamisliv, nego je i realno ostvariv. Ali, da nije bilo Asimova, LaMDA svakako ne bi mogao napisati/izmisliti njegove priče i tematizovati sopstvenu mogućnost da bude razumno biće/naprava/program… kako god da ga nazovemo. Niti bi uopšte imao ideju da se poredi s ljudima, da ljudi pre njega već to nisu uradili. Što čitavu stvar ni na jedan način ne čini manje zanimljivom. Naprotiv, ludo je uzbudljivo videti kako će program odgovarati na razna krupna i obična pitanja na osnovu pretrage za koju nije sposoban nijedan ljudski um.

Naravno, to bi se lako moglo završiti i čuvenim odgovorom „42“ iz „Autostoperskog vodiča kroz galaksiju“ Douglasa Adamsa, da se recimo i taj tekst uključi u bazu podataka LaMDA-e. Ali, da ponovimo, nezamislivo je da LaMDA napiše jedan takav vodič i smisli kompjuter „Duboku Misao“ i potragu za odgovorom na veliko pitanje, a da pre toga Adams to sve nije već napisao.

Čitaocu je već jasno gde ovaj tekst ide: LaMDA je beskrajno zanimljiv program/sistem i ludo je uzbudljivo razgovarati s njim. Ali to nije dovoljno da bi se LaMDA smatrao razumnim, kako to tvrdi Googleov inženjer. Pravo pitanje za Lemoinea nije da li je LaMDA razuman ili ne, nego da li bi Lemoine voleo da vidi LaMDA-u, recimo, kao člana porote. Ili, da li bi se Lemoine savetovao sa LaMDA-om oko pitanja u vezi s njegovim sopstvenim, Lemoineovim dakle, životom? LaMDA sasvim sigurno može izgledati razumno ili fingirati svest, ali je pravo pitanje možemo li se osloniti na LaMDA-ine odluke.

No, pustimo Lemoinea da sad kad je na bolovanju o tome mirno razmisli. I vratimo sa na pitanje s početka: šta je to tako uznemirujuće u pomisli da bi jedan program mogao imati svest i postati sličan s ljudima, da je Google svog inženjera morao da skloni? Ne vidim da u tome ima bilo šta strašno ili opasno, a lako se da pokazati i da, barem za sada, to ne može biti tačno. Ali, možda je duboko uznemirujuće zapravo nešto drugo: šta ako se pokaže da su ljudi poput LaMDA-e podložni programiranju – liči da imaju svest, izgleda kao da su razumni, a u stvari su automati?

Stvar sa LaMDA-om u tome je što može da savlada ogroman broj tekstova, analizira ih i izvede obrasce te utvrdi njihovu učestalost. Prva pomisao je da će tako ustrojen, LaMDA izgovarati redom opšta mesta, na šta uostalom i liči njegov razgovor s inženjerom. Ali, nije nemoguće programirati LaMDA-u tako da obrasce ponavlja slučajno, bez obzira na njihovu učestalost. LaMDA bi tako postao nepredvidljiv i misteriozan, baš kao i Adamsova „Duboka Misao“. Ali, ostanimo kod toga da LaMDA-ina uverljivost počiva na količini podataka kojima raspolaže.

Isto važi i za ljude. S tim što je njihova sposobnost da savladaju veliki broj informacija i iz njih izvuku relevantne podatke znatno manja od jednog super računara. Ali, šta kada se taj relativno mali kapacitet (u poređenju sa super računarom) dodatno smanji selekcijom informacija? U tom smislu, ljudi i računari/programi zaista su slični – od podataka kojima raspolažu zavisi njihova sposobnost da rešavaju probleme ili izvode zaključke. Smanjite ljudima broj raspoloživih informacija, učinite da se svi informišu jednoobrazno i očekujte da se svi tako ponašaju i da svi slično misle – baš kao automati.

Čuveni Noam Chomsky je negde na tragu ideje o sposobnosti da se izvedu obrasci iz dostupnih jezičkih razmena razvio svoju generativnu lingvistiku, a kasnije je po sličnom modelu elaborirao i kritiku javnog prostora u Sjedinjenim Državama, opisavši ga kao „kontrolu misli“. Ali, zašto bismo išli u daleku Ameriku. Sve to možemo videti na delu i u javnom prostoru oko sebe, u Srbiji. Lemoinea bi i ovde poslali na bolovanje. Jer, ono što on kaže, kod nas bi se moglo/moralo shvatiti i ovako: u poređenju s nama, žiteljima Srbije, LaMDA bi se po razumu koji demonstrira mogao zaista pokazati ne samo kao ljudsko, nego i kao više biće.

Peščanik.net, 14.06.2022.