Kako napreduje tehnologija za obradu prirodnog jezika, potencijal četbotova i konverzacijskih VI sistema izaziva sve veću pompu.1 Jedan takav sistem, ChatGPT, tvrdi da je u stanju da učestvuje u prirodnom razgovoru s ljudima, pa čak i da pruža korisne informacije i savete. Međutim, postoji opravdana zabrinutost u vezi sa ograničenjima ovog i drugih konverzacijskih VI sistema i njihovom sposobnošću da verno reprodukuju ljudsku inteligenciju i interakciju.
Ovaj pasus nije moj. Napisao ga je ChatGPT, softverski program veštačke inteligencije (VI) za konverzaciju, nakon što sam zatražio da napravi „uvodni paragraf za tekst u maniru Kenana Malika, o sumnjama u sposobnosti ChatGPT-a“. Možda bih imao zamerki na stil, ali pokušaj je svakako impresivan. Nije teško razumeti zašto je najnovija verzija četbota izazvala takvo uzbuđenje, čak pompu, otkako je objavljena pretprošle nedelje.
Nahranjen ogromnim količinama teksta raznih ljudi, ChatGPT u tim podacima traži statističke pravilnosti, uči kako su reči i fraze međusobno povezane, i na taj način je u stanju da predvidi red reči u bilo kojoj rečenici, kao i međusobne odnose celih rečenica. Rezultat je mašina koja ubedljivo oponaša ljudski jezik.
Ova sposobnost mimikrije omogućava četbotu da piše eseje i poeziju, smišlja viceve, formuliše programski kod i odgovara na pitanja koja postavljaju i deca i eksperti. Pritom, to radi tako dobro da je protekle nedelje bilo i slavlja i panike. „Esejistika je mrtva“, napisao je kognitivni naučnik Tim Kicman, i nije bio jedini. Drugi tvrde da će to dokrajčiti Gugl kao pretraživač. I sam program smatra da bi mogao da zameni ljude na poslovima kao što su agenti osiguranja ili sudski stenografi.
Međutim, četbot koji piše eseje za najbolju ocenu takođe će vam reći da ako jedna žena može da rodi jednu bebu za 9 meseci, 9 žena može da rodi jednu bebu za jedan mesec; da je jedan kilogram goveđeg mesa teži od kilograma kompresovanog vazduha; da je drobljeno staklo koristan dijetetski suplement. Može da izmisli činjenice i reprodukuje predrasude ljudskog sveta na kom je treniran.
Greške ovog četbota su toliko ubedljive da je Stack Overflow, platforma za diskusije kompjuterskih programera, zabranila korisnicima da objavljuju njegove odgovore. „Glavni problem“, objasnili su moderatori, „jeste to što, iako odgovori koje ChatGPT proizvodi imaju visok procenat greške, deluju kao da su tačni“. Ili, kako je to rekao jedan kritičar, taj četbot majstorski lupeta.
Neki od ovih problema će se vremenom rešiti. Svaki razgovor u kom učestvuje ChatGPT postaje deo baze podataka koja se koristi za poboljšanje programa. Sledeća iteracija, GPT-4, očekuje se sledeće godine; biće ubedljivija i praviće manje grešaka.
Iza postepenih poboljšanja pomalja se fundamentalni problem svakog oblika veštačke inteligencije. Kompjuter operiše simbolima. Njegov program određuje skup pravila pomoću kojih se jedan niz simbola transformiše u drugi ili prepoznaju statistički obrasci. Ali ne određuje šta ti simboli ili obrasci znače. Za kompjuter je smisao nebitan. ChatGPT „zna“ (uglavnom) šta ljudima izgleda smisleno, ali ne i ono što po sebi ima smisla. Taj program je, prema rečima kognitivnog naučnika Garija Markusa, „mimičar koji ne zna šta priča“.
Dok misle, govore, čitaju i pišu, ljudi takođe operišu simbolima. Za razliku od kompjutera, međutim, ljudima je smisao sve.
Kada komuniciramo, mi saopštavamo smisao. Nije nam bitan samo niz simbola, već i njihovo značenje; ne samo sintaksa, već i semantika. Smisao se ljudima ostvaruje kroz naše postojanje kao društvenih bića, oličenih i ugrađenih u svet. Ja za sebe imam smisla samo u onoj meri u kojoj živim u zajednici drugih bića koja misle, osećaju i govore.
Naravno, ljudi lažu, manipulišu, privlače ih teorije zavere koje mogu imati razorne posledice. I to je sastavni deo postojanja društvenog bića. Ali ljude prepoznajemo kao nesavršene i nepoštene; u stanju smo da razaznamo kad lupetaju ili manipulišu.
Kad je o mašinama reč, međutim, skloni smo da ih tretiramo ili kao objektivne i nepristrasne, ili kao potencijalno zle, ako su „svesne“. Često zaboravljamo da i mašine mogu biti pristrasne ili da jednostavno greše, jer nisu utemeljene u svetu kao ljudi, ali i zato što ih programiraju i treniraju ljudi, na podacima koje su ljudi prikupili.
Živimo u doba kad je pojavno često važnije od dubljeg smisla. Doba u kojem političari prečesto vode neku politiku ne zato što je to neophodno ili u principu ispravno, već zato što ima dobru prođu u fokus grupama. Doba u kojem često ignorišemo društveni kontekst ljudskih postupaka ili izjava, zaslepljeni doslovnim glupostima. Doba u kojem se učenici, kako kaže pisac i vaspitač Džon Vorner, „nagrađuju za prežvakavanje postojećih informacija“ u sistemu koji „privileguje tačnost na površinskom nivou“ umesto da „podstiče veštine pisanja i kritičkog mišljenja“. To što izgleda da ChatGPT tako lako piše eseje za najbolju ocenu, kaže on, „odražava bedni nivo našeg vrednovanja znanja“.
Sve to ne poriče izvanredno tehničko dostignuće najnovijeg četbota, ni zadivljujući osećaj interakcije s njim. Nesumnjivo će se razviti u koristan alat, koji će pomoći unapređenje i ljudskog znanja i kreativnosti. Ali neophodno je da održimo distancu. ChatGPT otkriva ne samo napredak u oblasti veštačke inteligencije, već i njena ograničenja. Takođe osvetljava prirodu ljudske spoznaje i karakter savremenog sveta.
Na prvu loptu, ChatGPT otvara pitanje o tome kako se odnositi prema mašinama koje su daleko bolje u lupetanju i širenju dezinformacija od samih ljudi. S obzirom na poteškoće u rešavanju ljudskih dezinformacija, ovo pitanje ne treba odlagati. Nije dobro da nas ubedljivost četbota toliko opčini da zaboravimo stvarne probleme koje ti programi odražavaju.
The Guardian, 11.12.2022.
Prevela Milica Jovanović
Peščanik.net, 17.12.2022.
NOVE TEHNOLOGIJE________________
- Četbot (eng. chatbot, od: chatter, ćaskanje + robot), kompjuterski program, simulira i procesuira ljudski razgovor, pisani ili govorni, u interakciji ljudi i digitalnih usluga. Zasnovan je na elementima tzv. veštačke inteligencije (VI) kao što su automatizovana pravila, obrada prirodnog jezika i mašinsko učenje; prim.prev.
