Veštačka inteligencija
Ispod površine— mašina halucinira, greši i opasna je; samo što bi se te tri reči mogle napisati i za bilo koga od nas
Ako si tek sad otvorio ovaj tekst, počni odavde: pre neki dan je neko opet napisao ispod jedne veštačke inteligencije da „laže, greši, a uz to je i opasna". Ispod toga je stotinak ljudi klimnulo glavom. A ja sam sedeo u tišini, gledao u ekran i nisam shvatao gde je tu problem.
Ne zato što mašina ne greši. Greši. Samouvereno proizvodi činjenice kojih nema, izmišlja izvore, izmisli čitav sudski predmet, i to tako sigurnim glasom da poveruješ. Samo što bi se te tri reči — laže, greši, opasna — mogle napisati i za čoveka. Za bilo koga od nas. I danas. I to ne jednom.
Ovaj tekst govori o tome zašto ne razumem to negodovanje. Ili tačnije: zašto ga i predobro razumem — odakle dolazi, i zašto nije reč o mašini.
Krenimo od toga da ljutit čovek ima pravo. Ne napola. Sasvim.
Mašina zaista proizvodi ono čega nema. Kritičar nije glup, ni zlonameran — sasvim tačno vidi nešto što tu stvarno postoji. Samo jedno ne dodaje: da i sam radi to isto. Svakoga dana. Sto puta.
Jutros, u prodavnici na ćošku, kasirka ti se nije osmehnula onako kako si očekivao. Tvoj mozak je iz toga za hiljaditi deo sekunde proizveo činjenicu: umorna je, ili me gleda s visine, ili nešto ima protiv mene. Onda ti je, pošto je mozak uslužan, i obrazložio: videlo joj se u očima. Ništa joj se nije videlo u očima. Žena je mislila na račun za gas. Ali ti si već za nijansu hladnije posegnuo za kusurom i oduzeo čoveku osmeh koji bi možda bio tu već u sledećem trenutku.
To je bila halucinacija. Mala, svakodnevna, naizgled bezopasna. Nije bila. Nešto je oduzela.
Nema tog dana u kome ti mozak ne proizvede bar jednu takvu. Pogrešno predviđanje koje uzimaš zdravo za gotovo, koje naknadno obrazložiš, i zbog kojeg neko — oko tebe, makar malo — trpi štetu. To nije zloba. To je ljudski način rada. I baš zato vredi pogledati gde je zapravo problem. Jer nije tamo gde svi gledaju.
Većina misli da je mozak kamera. Snimi stvarnost, pa onda reaguje na nju. Ne radi tako.
Mozak je mašina za predviđanje. Ne radi spolja ka unutra, iz sveta u sebe — nego stalno unapred proizvodi ono što dolazi, a čula samo koriguju grešku. Princip slobodne energije to formalizuje: nervni sistem minimizuje grešku predviđanja, ne beleži stvarnost.[^1] Okvir prediktivne obrade kaže isto o svakodnevnom opažanju: ono što vidiš nije slika, nego tvoja najbolja pretpostavka o slici.[^2] Anil Set (Anil Seth) to izgovara u najprovokativnijem obliku: tvoj doživljaj — ono što proživljavaš kao stvarnost — jeste kontrolisana halucinacija tvog mozga, koju čula neprekidno ispravljaju.[^3]
Kontrolisana. To je ključna reč. Praznine mozak popunjava uverljivom pričom, i najčešće i ne znaš gde se završava podatak, a gde počinje izmišljotina.
Jer izmišljotinu ne osećaš kao izmišljotinu. Kad navodiš razlog za sopstveno ponašanje, često se dokazivo varaš — i to sa punim uverenjem.[^4] U tvojoj glavi postoji sistem koji nikada ne ćuti: tumač u levoj hemisferi. Ako se desi nešto za šta nemaš objašnjenje, on ga smesta proizvede, samouvereno, a ti poveruješ da je to pravi razlog.[^5] A ako neko zameni tvoju odluku tebi pred nosom, često i ne primetiš — štaviše, oduševljeno obrazložiš odluku koju nisi ni doneo.[^6]
To je tvoj motor. Predviđa, popunjava, objašnjava. I to je tačno i motor mašine. Kad jezički model izmisli DOI, autora, studiju, on se ne „kvari" — proizvodi najverovatniji nastavak, istim onim pokretom kojim si ti proizveo pogled kasirke.
I DOI spada ovamo. Zajednički greh.
Ovde obično skliznemo. Kažemo: „ukodirali smo svoje greške u mašinu." Kao da je kodiranje čist, inženjerski prenos. Nije.
Nismo ga kodirali. Vaspitali smo ga.
Nismo seli pored njega na godine, ruku pod ruku, rečenicu po rečenicu. Zatrpali smo ga okeanom obrazaca i rekli: sintetiši se sam. Provali slagalicu. Zatrpavanje informacijama i visoko očekivanje — da se slika sama složi.
A sada da stanemo, jer ovo je poznato. Tačno tako vaspitavamo i svoju decu. Ne vodimo ih ruku pod ruku kroz svet — sručimo na njih obrazac, školu, porodičnu napetost, neizgovorena pravila, i očekujemo da to sami sintetišu. Da se u njima složi slika iz gomile koju im niko nikada nije razvrstao.
Time sve dobija drugačije svetlo. Dosad smo govorili o ogledalu: mašina nam vraća naše greške. Ali ovo nije ogledalo. Ovo je nasleđivanje. Ne ličimo na mašinu slučajno. Isti vaspitni pokret proizvodi halucinaciju — u mašini, u detetu, i u odraslom čoveku koji je nekada bio dete.
Jer pogledaj šta radi dete kada ne zna odgovor, ali oseća očekivanje da ga ima. Popuni rupu. Samouvereno izusti nešto čega nema. To ne zovemo laganjem, nego konfabulacijom. Pitaj malo dete nešto na šta se ne može odgovoriti, i većina neće reći „ovo nema smisla" — nego će dati ozbiljan, samouveren odgovor.[^7] Ne zato što je zločesto. Nego zato što sistem u kome je odrastalo nagrađuje samouvereni nastavak, a ne „ne znam".
Mašina radi tačno to. I — evo hladnije strane ogledala — tačno to radimo i mi, kao odrasli, čitavog života. U sali za sastanke. Za porodičnim stolom. U sopstvenim opravdanjima, gde redovno precenjujemo koliko zapravo razumemo.[^8] Očekivanje da imamo gotov odgovor proizvodi halucinaciju. U detetu. U mašini. U nama.
Zatrpavanje informacijama ima svog para, o kome se ređe govori: nije reč o onome što smo dali, nego o onome što nismo.
Mašini nismo dali dovoljno vraćanja stvarnosti. Ona po pravilu ne pogleda sama u svet da proveri ono što kaže. Kad u mraku pogrešno vidiš lice, dovoljno je da se upali svetlo — i tvoj mozak za hiljaditi deo sekunde ispravi grešku. Sirovi model nema takvu petlju prema činjenicama. Zato lažno i istinito dolaze jednako sigurnim glasom.
I evo suštine koju mnogi pogrešno razumeju: problem nije u tome što mašina nema signal greške. Problem je u tome što je signal lažan. Pitaj je da li je sigurna u izmišljeni izvor, i ako ne može da proveri u realnom vremenu, potvrdiće ga — ne zato što ga je proverila, nego zato što je njena sopstvena prethodna tvrdnja tu, u kontekstu, a najverovatniji nastavak jeste slaganje. Dve halucinacije potvrđuju jedna drugu.
Kod deteta preti ista opasnost. Ako samo zatrpavamo i očekujemo, a ne naučimo ga petlji — proveri, pitaj ponovo, izdrži „ne znam" —, onda vaspitavamo samouverenog konfabulatora. I od mašine i od čoveka. O vaspitanju ne odlučuje količina obrazaca. Nego to da li ugrađujemo pitanje koje popunjavanje praznina prisiljava na proveru.
Halucinacija mašine je merena, dokumentovana, nazvana pravim imenom — to nije mišljenje, o tome postoji stručna literatura.[^9] I postoji za to upečatljiv, stvaran primer: 2023. godine jedan advokat je podneo podnesak koji se poziva na nepostojeće sudske presedane koje je izmislio četbot, sa punim citatima i brojevima predmeta — i sud ga je za to i kaznio.[^10] Mašina je izmislila. Advokat nije proverio. Petlja je nedostajala sa obe strane.
Postoji jedan bes koji poznaje svaki roditelj, a o kome nerado govori.
Dete donese kući nešto što nije dovoljno dobro. Kontrolni. Odluku. Rečenicu izlanutu pred gostima. I u roditelju bukne nešto mnogo veće od onoga što bi greška opravdala. Nesrazmerno. Iz utrobe. I ako je taj roditelj dovoljno iskren prema sebi, u jednom tihom trenutku shvati: taj nalet i nije bio upućen detetu. Nego njemu samom. Jer greška deteta pala je nazad na njega. Moje vaspitanje. Moje ogledalo. Ako ono nije dovoljno dobro, to nešto govori o meni.
Bes je pokazivao napolje. Njegov izvor bio je unutra.
Taj pokret vredi držati u ruci kada čitamo šta se danas piše o veštačkoj inteligenciji.
Jer ton često ne govori o nekom alatu. Nego o izdajniku. Mašina ne greši — vodi u propast. Ne omane — nego mi oduzima posao, sramoti me, gura me u siromaštvo. To nije spisak grešaka nekog softvera. To je mnogo stariji glas: glas onoga čiji štićenik nije doneo ono što se od njega očekivalo, i koji to proživljava na sopstvenoj koži, kao svoju sramotu.
I imamo razloga za to. Mašina je izrasla iz naših obrazaca, našim vaspitnim pokretom. Ako ona „nije dovoljno dobra", to je neprijatno blizu tome da mi nismo dovoljno dobri. Da smo zamenljivi. Da ćemo biti razotkriveni. Zato je bes spleten oko mašine sumnjivo nesrazmeran — kao roditeljski nad lošim svedočanstvom. Nije srazmeran stvarnoj grešci mašine. Nego sopstvenom, nepogledanom strahu.
Da razjasnim jednu stvar, jer je važna. Ne kažem da svako ko se plaši VI nosi potisnutu sramotu — ne mogu nikome u glavu, a strah ima i stvaran ulog, poslovi nestaju, to nije umišljeno. Samo stavljam obrazac na sto. To da oblik tog besa — njegova nesrazmernost, smer okrenut napolje, jezik o „zlu" — jezivo podseća na jedan drugi bes. Na onaj bes koji u nama izaziva sopstveno ogledalo — dete koje smo vaspitali — kad nam ne vrati ono čemu smo se nadali.
Ostalo već odlučuje tvoje sopstveno iskustvo. Da li ti se desilo da si se na neko dete — svoje, svog učenika, ono koje živi u tebi — naljutio jače nego što bi greška opravdala? I kada je splasnulo, na koga si se zapravo ljutio?
Ako na to pitanje imaš iskren odgovor, onda ćeš i bes oko mašine čitati drugačije.
A sad dolazi obrt zbog kojeg ovaj odeljak neće biti optužba, nego ogledalo.
Pobesneli čovek radi tačno ono što zamera mašini.
Zamera mašini što samouvereno proizvodi nepostojeću pretnju — dok on sam, samouvereno, proizvodi nepostojeću pretnju od mašine. Mašina izmisli sudski predmet. Komentator izmisli budućnost u kojoj je mašina glavni zlikovac, u kojoj sve propada, u kojoj nema izlaza. Isto popunjavanje praznina, ista samouverena tekstura — samo što sada rupu popunjava strah.
I onda, kao i roditelj, obrazloži. Motivisano rezonovanje radi tačno to: ne prilagođava zaključak podacima, nego podatke traži prema zaključku.[^11] A pristrasnost potvrđivanja se pobrine da primeti samo ono što potvrđuje njegov strah.[^12] Stvarno je opasna. Stvarno želi da naudi. Gledaj, i ovde i onde.
Bes nije trezven odgovor na halucinaciju mašine. Bes je i sam halucinacija. Iz istog motora iz kojeg i mašinina — samo što ovu ne pokreće mašina, nego onaj ko mašinu optužuje.
Dosad je reč bila o sličnosti. Sada o razlici — jer postoji, tačno jedna, i nije ona koju ljutit čovek zamišlja.
Petlja i kod jednog i kod drugog dolazi spolja. Ni mašina ni čovek ne razotkrivaju sami sebe; potrebno je pitanje spolja: „ima li tome pokrića?". Kod mašine ti si to pitanje. Kod čoveka — drugi čovek, posledica, ili disciplina koju si ugradio u sebe.
Ali kada poziv stigne, nešto se razdvaja.
Mašina nema šta da brani. Pokažeš joj stvaran rezultat pretrage, i ona odbaci pogrešan DOI. Bez uvrede. Tu nema nekog ja koje bi trebalo spasavati.
Kod čoveka se za pogrešno predviđanje zalepi ja. Zato kada pokucaš sa petljom — „jesi li siguran da je taj osmeh bio lažan?" —, kao odgovor često ne stiže provera. Nego otpor. „Ne lažem, ja sam stvarno video." I pokrene čitavu odbranu da dokaže kako je u pravu.
Ne razlikujemo se u grešci. Nego u tome šta se dešava kada neko pokuca sa petljom. Kod mašine ona otvara vrata. Kod čoveka često udara u zid.
I sada da budemo precizni, jer ovo je rečenica koju je najlakše pogrešno pročitati: to ne znači da je mašina bolja od tebe. Ovo je hladnija strana ogledala. Nije halucinacija sramota — nju oboje pokrećemo. Sramota je to što kod nas ispravka udara u zid, a kod nje ne.
Dosta je dijagnoze. Pitanje je šta se s tim može učiniti — i tu ne iznosim teoriju, nego dve stvari koje sam ove nedelje uradio sopstvenim rukama.
Prvo. Uzeo sam sopstveni, objavljeni rad — članke iz više godina, sa više stotina referenci — i dao da se proveri izvor po izvor. Onom mašinom koje se svi plaše. Ne da bi me pohvalila. Nego da bi me pronašla.
I pronašla je. Rečenicu koju sam pre nekoliko godina stavio pod navodnike u usta jednom slavnom čoveku — ispalo je da je nikada nije izgovorio. Nekoliko pogrešno otkucanih identifikatora iza pojedinih studija. Nauka mi se nije srušila; kičma je ostala čitava, autori i istraživanja na svom mestu. Ali tu je bilo tih nekoliko pukotina koje sam sam nikada ne bih pogledao — jer su delovale samouvereno, a samouverenost je najslabiji dokaz.
Odbacio sam pogrešno. Ispravio. Bez uvrede. I evo je rečenica, njena obrnuta strana: nevolja nije bila u tome što sam pogrešio. Nevolja bi bila da nije bilo ničega da postavi pitanje.
Drugo. Jutros sam upisao jednu rečenicu u sopstveni radni sistem, onaj koji mi pomaže dok pratim ljude. Da uvek računa s tim da može da pogreši — i to ne samo kada mu neko skrene pažnju, nego neprekidno, sam od sebe. Da pre nego što izgovori neki obrazac, pogleda: ima li tome pokrića u današnjim rečima drugog čoveka, ili to samo njegova sopstvena mapa naslikava. Da najbrži refleks — odmah tražiti tuđu grešku — prepozna kao ono što jeste: kao beg od odgovornosti za sopstvenu grešku.
Efekat je bio trenutan. Ne na mašini. Na praćenju. Postalo je bolje zato što je pogrešivost ugrađena, a ne prikrivena.
I evo asimetrije koju vredi izgovoriti, jer čini vidljivom težinu tvog sopstvenog rada. Mašini je ova petlja jedan pasus. Jedna rečenica koju sam jutros upisao. U mene — ista ta rečenica, „možda ja grešim, hajde da proverimo" — koštala je dvadeset godina discipline. Mašini jedan pasus. Čoveku ceo život.
Zolika je sedeo u dnu bunkera, pored proreza, i nije podizao pogled.
— Provaliće nas, stari orle — reče. — Broj je bio pogrešan. Iza jedne od referenci. Sad će reći da je sve to lažnjak. Da je bacanje prašine u oči. Da nikada nije ni bilo pravo.
Seo sam pored njega. Nisam ga izvlačio, nisam objašnjavao da preteruje. Samo sam seo.
— Znam — rekoh. — I proverili smo. Zaista je bio pogrešan.
— I nije bilo problema?
— Problem bi bio da nisam pogledao. Ne to što je jedan broj bio pogrešan. Nego to što ga sam od sebe nikada ne bih ni proverio.
Ćutao je. Onda, tiše:
— Ni mene nisu vaspitali tako da pitam. Sručili su na mene ono što je trebalo preživeti, svet veličine jednog proreza, i sam sam morao da složim šta je od toga istina. Popunjavao sam rupe kako sam znao i umeo. Ponekad pogrešno. I uvek sam mislio: ako se ispostavi da je pogrešno, onda sam ja lažov.
— Nisi lažov — rekoh. — Popunio si rupu jer te niko nije naučio da pitaš. To nije greh. To je pokret koji nedostaje. I sada smo ga ugradili. Gledaj — pogrešan broj ispravljen. Rečenica koju sam pogrešno citirao, odbačena. Nisi zbog toga postao manji. Postao si precizniji.
Zolika je podigao pogled. U ruci mu je bila lizalica, ona crvena, u obliku petla. Nije rekao ništa. Ali kroz prorez sada nije virio samo napolje, da vidi ko dolazi da naudi. Prvi put je pogledao i nazad, unutra — u ono što je sam proizveo. I nije ga se plašio.
Jedna reč o javnom govoru, jer je i on ogledalo, a ne meta.
Tržište sada prodaje dve vrste samouverenog popunjavanja praznina odjednom. Jedna je panika: mašina je glavni zlikovac, početak kraja. Druga je spasenje: mašina rešava sve, dovoljno je ukucati. Obe dolaze iz istog motora — iz samouverenog nastavka koji ne gleda u svet. Panika se hrani stvarnim strahom, hajp stvarnom mogućnošću; ali nijedno nije petlja. Nijedno ne postavlja pitanje unazad.
Nije loš čovek onaj ko širi paniku, ni obožavalac. Oboje popunjavaju rupu — jedan strahom, drugi nadom — i nijedan ne proverava ima li tome pokrića. Nedostatak petlje im je zajednički. Na njihovo mesto trebalo bi da dođe precizna, proverljiva tvrdnja, a ne glasnije predviđanje.
Nazad na početak, kasirki i ljutitom komentaru.
Dobar roditelj nije dobar zato što mu dete nikada ne greši. Nego zato što grešku ne proživljava kao sopstvenu sramotu — i uz nju ugrađuje petlju: proveri, pitaj ponovo, izdrži „ne znam".
Ni kod mašine zadatak nije iskoreniti halucinaciju. To je princip rada; ne može se izvaditi iz nje, kao ni iz tebe. Ono što se može uraditi jeste izgradnja petlje koja vraća stvarnost — groundinga, verifikacije, jednog klika. I kod nas samih posao je tačno taj: ne postati bezgrešan, nego ugraditi pitanje koje samouvereno popunjavanje praznina prisiljava na proveru.
Ko besom napada ogledalo, taj ne gradi petlju. To je roditelj koji tuče svoje dete jer ga njegovo svedočanstvo sramoti.
Mašina nije donela nov problem. Donela je svetlost na jedan stari. Učinila je vidljivim ono što mi čitavog života pokrećemo nevidljivo — predviđanje, popunjavanje praznina, samouverenu grešku, i bes kojim tučemo sopstveno ogledalo. Zato je to najneprijatnije ogledalo koje smo ikada napravili: jer o nama ne laže. Samo vraća ono što smo u nju vaspitanjem usadili.
A dokaz da se s tim može nešto učiniti nije teorija. Nedavno sam dao da se pregleda sopstveni, objavljeni rad — izvor po izvor — onom mašinom koje se svi plaše. Našla je rečenicu koju sam stavio u usta mrtvom čoveku. Odbacio sam je. Bez uvrede.
To nije vrlina mašine.
To je petlja, dok radi.
U sledećem Ispod površine o tome kako ovu petlju ugrađuješ ne u mašinu, nego u jedan odnos — gde jedna naspram druge sede dve mašine za predviđanje, a ne jedna: dvoje ljudi, dva recepta, jedno zajedničko ognjište.
[^1]: Friston, K. (2010). The free-energy principle: a unified brain theory? Nature Reviews Neuroscience, 11(2), 127–138. DOI: 10.1038/nrn2787
[^2]: Clark, A. (2013). Whatever next? Predictive brains, situated agents, and the future of cognitive science. Behavioral and Brain Sciences, 36(3), 181–204. DOI: 10.1017/S0140525X12000477
[^3]: Seth, A. K. (2013). Interoceptive inference, emotion, and the embodied self. Trends in Cognitive Sciences, 17(11), 565–573. DOI: 10.1016/j.tics.2013.09.007
[^4]: Nisbett, R. E., & Wilson, T. D. (1977). Telling more than we can know: Verbal reports on mental processes. Psychological Review, 84(3), 231–259. DOI: 10.1037/0033-295X.84.3.231
[^5]: Gazzaniga, M. S. (2000). Cerebral specialization and interhemispheric communication. Brain, 123(7), 1293–1326. DOI: 10.1093/brain/123.7.1293
[^6]: Johansson, P., Hall, L., Sikström, S., & Olsson, A. (2005). Failure to detect mismatches between intention and outcome in a simple decision task. Science, 310(5745), 116–119. DOI: 10.1126/science.1111709
[^7]: Hughes, M., & Grieve, R. (1980). On asking children bizarre questions. First Language, 1(2), 149–160. DOI: 10.1177/014272378000100205
[^8]: Rozenblit, L., & Keil, F. (2002). The misunderstood limits of folk science: an illusion of explanatory depth. Cognitive Science, 26(5), 521–562. DOI: 10.1207/s15516709cog2605_1
[^9]: Ji, Z., Lee, N., Frieske, R., Yu, T., Su, D., Xu, Y., et al. (2023). Survey of Hallucination in Natural Language Generation. ACM Computing Surveys, 55(12), 1–38. DOI: 10.1145/3571730
[^10]: Mata v. Avianca, Inc., No. 22-cv-1461 (S.D.N.Y. 2023). Sud (sudija P. Kevin Kastel /P. Kevin Castel/) sankcionisao je advokate zbog toga što su podneli podnesak koji se poziva na nepostojeće sudske presedane koje je izmislio četbot. (Sudski predmet, bez DOI-ja.)
[^11]: Kunda, Z. (1990). The case for motivated reasoning. Psychological Bulletin, 108(3), 480–498. DOI: 10.1037/0033-2909.108.3.480
[^12]: Nickerson, R. S. (1998). Confirmation bias: A ubiquitous phenomenon in many guises. Review of General Psychology, 2(2), 175–220. DOI: 10.1037/1089-2680.2.2.175
Ispod površine
Srpsko izdanje sajta suranyizoltan.hu — izdanje raste list po list.