Kliker.info

Već dugo imamo četbotove koji su u stanju da vode umjesne razgovore, prepoznaju osnovne namjere sagovornika i odgovaraju na upite prema unaprjed postavljenim pravilima i podacima. Njihovi kapaciteti su dramatično uvećani posljednjih mjeseci, što je u mnogim krugovima izazvalo zabrinutost i paniku.

Piše : Slavoj Žižek (Project Syndicate)

O sistemima vještačke inteligencije koji će umjesto studenata pisati domaće zadatke već je dosta rečeno. Ali pitanje koje zahtjeva veću pažnju glasi kako oni treba da reagiraju kada ljudski sagovornici koriste agresivne, seksističke ili rasističke iskaze kako bi podstakli bota da uzvrati vlastitim nepodopštinama? Da li oni trebaju biti programirani da odgovaraju istom mjerom na takva pitanja?

Ako je kucnuo čas da se ova pitanja nekako regulira, treba odrediti okvire te vrste cenzure. Da li će politički stavovi koje neke društvene grupe smatraju uvrijedljivima biti zabranjeni? Šta je sa izrazima solidarnosti sa Palestincima na Zapadnoj obali, ili sa tvrdnjom da je Izrael zemlja aparthejda (koja se našla i u naslovu knjige bivšeg američkog predsjednika Jimiya Cartera)? Da li bi to bilo blokirano kao izraz antisemitizma?

I tu nije kraj problema. Kako upozorava umjetnik i pisac James Bridle, novi AI sistemi „zasnovani su na sveobuhvatnoj aproprijaciji postojeće kulture“, ali uvjerenje da oni „posjeduju istinska znanja ili imaju svijest je opasna zabluda“. Takođe treba biti veoma oprezan prema novim generatorima slika. „Pokušaj da se obuhvati cjelokupna vizuelna kultura ljudske civilizacije“, primjećuje Bridl, „doveo je do rekreiranja naših najdubljih strahova. Možda to samo znači da ovi sistemi jako dobro oponašaju rad ljudske svijesti, uključujući užase koji vrebaju iz dubina naše egzistencije: strahove od bola, smrti ili korupcije.“

Ali koliko su novi AI sistemi zaista dobri u oponašanju ljudske svijesti? Uzmite na primjer kafanu koja je nedavno reklamirala svoja pića na ovaj način: „Kupite jedno pivo po cijeni od dva i dobit ćete drugo pivo potpuno besplatno!“ Za ljudska bića ovo je šala. Uobičajena formula „kupiš jedan, dobiješ dva“ preformulirana je u apsurdni iskaz. U pitanju je cinizam koji mi prihvatamo kao komičnu iskrenost u cilju podsticanja prometa. Da li bi četbot to mogao razumjeti?

„Jebote“ predstavlja sličan problem. Mada ta riječ označava nešto u čemu većina ljudi uživa (kopulacija), često ima i negativnu valencu („Sjebani smo!“ „Jebi se!“). Jezik i stvarnost su neuredni. Da li vještačka inteligencija može uočiti te razlike?

U svom eseju iz 1805. „O postepenom formiranju misli u procesu govora“ (objavljenom posthumno 1878) njemački pjesnik Heinrich fvon Kleist preispituje opće uvjerenje da treba ćutati ako nemamo jasnu ideju o tome šta hoćemo da kažemo: „Ako je dakle misao izražena nejasno, to uopće ne znači da je ona sama konfuzna. Naprotiv, sasvim je moguće da su ideje koje su izražene na krajnje zbunjujuć način upravo najjasnije promišljene ideje.“

Odnos između jezika i misli izuzetno je kompliciran. U odlomku iz jednog od Staljinovih govora s početka 1930-ih, nalazi se njegov prijedlog radikalnih mera za „otkrivanje i nemilosrdnu borbu čak i protiv onih koji se kolektivizaciji opiru samo u svojim mislima – da, zaista to smatram, treba se boriti čak i protiv misli ljudi“. Realna je pretpostavka da ovaj dio govora nije bio pripremljen unapred. Ponesen trenutkom Staljin je rekao upravo ono što misli. I dopala mu se sopstvena hiperbola.

Kao što je Jackues Lacan kasnije rekao, to je primjer istine koja se iznenadno javlja kroz čin izricanja. Luj Altiser je identifikovao sličan fenomen u odnosu dobitka (prise) i iznenađenja (surprise). Osoba iznenada dobija ideju i biva iznenađena time. Da li to može da se dogodi bilo kom četbotu?

Problem nije u tome što su oni glupi, već u tome što nisu dovoljno glupi. I nije u tome što su naivni jer ne primjećuju ironiju, već u tome što nisu dovoljno naivni. Prava opasnost dakle nije u tome što će ljudi pomešati četbot sa stvarnom osobom, već u tome da će se zbog komunikacije sa četbotovima stvarni ljudi svesti na njih – prestat će primjećivati nijanse i ironiju i izgovarati ono što četbotovi mogu razumjeti.

Moj prijatelj iz mladosti je posle doživljene traume otišao kod terapeuta. Vođen klišeima o tome šta analitičari očekuju od svojih pacijenata, svoju prvu seansu posvetio je lažnoj mržnji prema svom ocu. Reakcija analitičara je bila genijalna. Zauzeo je naivan predfrojdovski stav i zamjerio mom prijatelju odsustvo poštovanja prema ocu: „Kako možeš tako govoriti o osobi koja te je stvorila?“ Lažna naivnost poslala je jasnu poruku: odbijam tvoje lažne tvrdnje. Da li bi četbot uspio shvatiti ovaj podtekst?

Vjerovatno ne bi i ponašao bi se kao knez Miškin iz Idiota Dostojevskog po tumačenju Rovana Villamsa. Prema standardnom razumjevanju, Miškin je idiot, svetac, dobar čovek koga brutalnost i strasti ovoga svijeta odvode u ludilo. Ali u Viliamsovom radikalnom čitanju Miškin je srce oluje: mada dobar, svetac, on je taj koji izaziva pustoš i smrt kojima svjedoči, zahvaljujući svojoj ulozi u složenoj mreži odnosa oko sebe.

Ne radi se samo o tome da je Miškin naivni durak. Zbog svoje posebne vrste gluposti on je nesvjestan svog pogubnog utjecaja na druge. To je osoba koja doslovno govori kao četbot. Njegova dobrota je u tome što, poput četbota, on reagira na izazove bez ironije, nudeći floskule bez preispitivanja, shvatajući sve doslovno i oslanjajući se na mentalne formule, a ne na autentično formirane ideje. Zato novi četbotovi odlično pristaju novim ideolozima cijelog spektra, od Woke probuđenih ljevičara do uspavanih Maga desničara.