Kliker.info

Otvoreno pismo Instituta za budućnost života u kome se zahtjeva 6 mjeseci pauze u razvoju vještačke inteligencije potpisale su hiljade utjecajnih ličnosti uključujući Ilona Muska. Potpisnike brine to što su laboratorije za vještačku inteligenciji „ušle u nekontroliranu trku“ razvoja sve moćnijih sistema koje niko, uključujući njihove kreatore, ne može razumjeti, predvidjeti ili kontrolirati.

Piše : Slavoj Žižek (Project Syndicate)

Kako objasniti ovaj napad panike jednog dijela elita? U osnovi apela su očigledno kontrola i regulacija, ali čije? Tokom predložene polugodišnje pauze tokom koje bi čovječanstvo trebalo sagledati rizike ko bi ga predstavljao? Budući da će laboratorije za vještačku inteligenciju u Kini, Indiji i Rusiji nastaviti sa radom (možda u tajnosti) globalna javna debata na ovu temu nije moguća.

Ipak, treba ispitati o čemu se ovdje radi. U svojoj knjizi Homo Deus (2015), istoričar Juval Noa Harari je predvideo da će najverovatniji ishod razvoja vještačke inteligencije biti radikalna podjela unutar ljudskog društva, dublja od klasne. Uskoro će biotehnologija i kompjuterski algoritmi udružiti svoje snage u proizvodnji „tijela, mozgova i umova“, što će rezultirati sve većim jazom „između onih koji znaju kako da konstruiraju tijela i mozak i onih koji to ne znaju“. U takvom svijetu, „oni koji su se ukrcali na voz progresa imaće božansku sposobnost stvaranja i uništenja, dok one koji su zaostali očekuje izumiranje“.

Panika koja izbija iz pisma Instituta za budućnost života proizlazi iz straha da čak i oni koji su u „vozu progresa“ nisu sigurni. Naši digitalni feudalci su se uplašili. Ali oni ne žele javnu debatu, već dogovor vlada i tehnoloških korporacija sa ciljem da istinska moć ostane u njihovim rukama.

Ogromna ekspanzija kapaciteta vještačke inteligencije predstavlja ozbiljnu prijetnju elitama na vlasti, uključujući one koje razvijaju, posjeduju i kontroliraju AI. To ukazuje na kraj kapitalizma kakvog poznajemo, u smislu mogućnosti nastanka sistema vještačke inteligencije koji se samoreproducira i kome će biti potreban sve manji ljudski doprinos (algoritamska trgovina na berzi samo je prvi korak u tom pravcu). Ostaje nam izbor između nekog novog oblika komunizma i nekontroliranog haosa.

Novi četbotovi će mnogim usamljenim (ili ne tako usamljenim) ljudima omogućiti beskrajne večeri prijateljskog razgovora o filmovima, knjigama, kuhanju ili politici. Da ponovo upotrijebim svoju metaforu, ono što će ljudi dobiti je kafa bez kofeina i sok bez voća: druželjubivi komšija bez mračnih tajni, Drugi prilagođen njihovim potrebama. To je sama suština fetišističkog odricanja: „Znam da to nije stvarna osoba, ali meni je dobra jer je bezopasna“.

U svakom slučaju, ovo otvoreno pismo je još jedan primjer nemoguće zabrane. Riječ je o starom paradoksu: pošto za nas ljude nema mjesta u post-humanoj budućnosti hajde da zabranimo njen razvoj. Da bismo se odredili prema ovim tehnologijama treba da postavimo Lenjinovo staro pitanje: sloboda za koga, za šta? U kom smislu smo ranije bili slobodni? Zar nismo već bili kontrolirani mnogo više nego što smo uviđali? Umjesto da se žalimo na ugrožavanje slobode i dostojanstva u budućnosti, možda bi prvo trebali razmisliti šta sloboda znači sada. Dok to ne obavimo, ponašat ćemo se kao histeričari koji, prema francuskom psihoanalitičaru Jacques Lacan, očajnički traže gospodara, ali samo onog nad kojim dominiraju.

Futurista Ray Kurzweil predviđa da ćemo, zahvaljujući eksponencijalnoj prirodi tehnološkog progresa, uskoro imati posla sa duhovnim mašinama koje ne samo da će pokazivati sve znake samosvjesti, već će i daleko prevazilaziti ljudsku inteligenciju. Ali ne treba mješati ovaj post-humani stav sa paradigmatično modernom preokupacijom ostvarenja potpune tehnološke dominacije nad prirodom. Umjesto toga, svjedoci smo dijalektičkog preokreta ovog procesa.

Današnje post-humane nauke više se ne bave dominacijom. Njihov kredo je iznenađenje: kakva bi sve neplanirana svojstva te crne kutije mogle da razviju? Niko ne zna i u tome je privlačnost ili banalnost cijelog poduhvata.

Francuski filozof i inženjer Jean-Pierre Dupuy je tako u novoj robotici, genetici, nanotehnologiji, vještačkom životu i vještačkoj inteligenciji uočio čudnu inverziju tradicionalne antropocentrične arogancije koju tehnologija omogućava:

„Kako da objasnimo to da je nauka postala toliko rizična aktivnost da je danas mnogi smatraju glavnom pretnjom opstanku čovečanstva? Neki filozofi smatraju da je Dekartov san o čovjeku kao gospodaru prirode pogrešan i da hitno treba preispitati osnove naše potrebe za razumevanjem svijeta oko nas. Oni ne vide glavnu stvar, da tehnologija koja nam se ukazuje kao ishodište svih disciplina za svoj cilj ima upravo okretanje od prirode. Inženjer sutrašnjice neće biti lakomi čarobnjakov šegrt kome su se stvari otele kontroli zbog lijenjosti ili neznanja, već zato što je baš tako htio.“

Čovječanstvo stvara vlastitog boga ili đavola. Iako se ishod ne može predvideti, jedno je sigurno: ako se nešto što liči na posthumanost pojavi kao kolektivna činjenica, naš pogled na svijet će izgubiti sve tri svoje definirajuće teme: ljudskost, prirodu i božansko. Ljudski identitet može postojati samo naspram nedokučive prirode, ali ako život postane predmet tehnološke manipulacije izgubit će svoj prirodni karakter. Potpuno kontrolirana egzistencija lišena je smisla, da ne spominjem slučajnost i čudo.

Isto, naravno, važi i za svaki osjećaj božanskog. Ljudsko iskustvo boga ima smisla samo sa stanovišta ljudske konačnosti i smrtnosti. Jednom kada postanemo homo deus i stvorimo svojstva koja iz stare ljudske perspektive izgledaju natprirodno, nestaće bogovi kakve smo znali. Pitanje je šta će, ako išta, ostati. Hoćemo li obožavati vještačku inteligenciju koju smo stvorili?

Imamo dobre razloge za zabrinutost da su tehno-gnostičke vizije post-humanog svijeta zapravo ideološke fantazije koje zamagljuju ponor koji nas čeka. Suvišno je naglašavati da nam je potrebno mnogo više od 6 mjeseci da bismo spriječili da ljudi u bliskoj budućnosti postanu nebitni, a njihovi životi lišeni svakog smisla.