Juval Noa Harari o knjizi „Život 3.0“ Maksa Tegmarka

Veštačka inteligencija će verovatno biti najvažniji katalizator promene u 21. veku. Preobraziće našu ekonomiju, kulturu, politiku, pa čak i naš um i telo na načine koji su većini ljudi nezamislivi. Ako od nekoga čujete predviđanja o tome kako će naš svet izgledati 2050. godine i ona vam zazvuče kao naučna fantastika, ta osoba verovatno greši; ali ako čujete scenario o 2050. koji ne zvuči kao naučna fantastika, ta osoba sigurno greši.

Tehnologija nikada nije deterministička: može se koristiti za formiranje potpuno različitih vidova društva. Tokom 20. veka, ljudi su se oslanjali na vozove, električnu energiju i moć radija kako bi izgradili nacističke i komunističke diktature, ali i da bi stvorili liberalne demokratije i slobodno tržište. U 21. veku, upotreba veštačke inteligencije pružiće nam daleko širi spektar mogućnosti. Odluka o tome koje od njih ćemo iskoristiti biće verovatno najvažniji potez koji će čovečanstvo povući tokom narednih nekoliko decenija.

Izbor o kome govorim nije pitanje nauke ili tehnike. On je pitanje politike. Stoga bi se morao naći na spisku najvažnijih tema u aktuelnom političkom diskursu, a nikako prepustiti stanovnicima Silicijumske doline. Nažalost, radar savremenih političkih institucija jedva da registruje postojanje veštačke inteligencije. Ne pominje se ni u jednoj važnijoj izbornoj kampanji, a većina partija, političara i glasača o njoj nemaju apsolutno nikakav stav. To je posledica činjenice da većina ljudi raspolaže krajnje neodređenim i ograničenim znanjem o mašinskom učenju, veštačkim neuronskim mrežama i veštačkoj inteligenciji. (Uobičajene predstave o ovom fenomenu uglavnom dolaze iz naučnofantastičnih filmova poput „Terminatora“ i „Matriksa“.) Bez boljeg upoznavanja sa tom oblašću nećemo biti u stanju da razumemo dileme sa kojima se suočavamo: kada nauka postane politika, naučna nepismenost se pretvara u recept za političku katastrofu.

Maks Tegmark knjigom „Život 3.0“ pokušava da nam pomogne. Ova zanimljiva knjiga, namenjena najširoj čitalačkoj publici, predstavlja politički i filozofski vodič kroz perspektive i zamke sveta u kojem ćemo živeti nakon revolucije izazvane napretkom veštačke inteligencije. Tegmark ne propagira ničije ideje i stavove, već pokušava da na najbolji mogući način osvetli ovu temu, razmatrajući nekoliko različitih scenarija koji mogu biti posledica uticaja veštačke inteligencije na tržište rada, oblike ratovanja i političke sisteme.

„Život 3.0“ ruši ustaljene mitove i nudi kvalitetna objašnjenja osnovnih pojmova i ključnih debata u ovoj oblasti. Iako je, na primer, naučna fantastika kod mnogih probudila strah od zlih robota, Tegmark ističe da pravi problem leži u nepredvidivim posledicama stvaranja vrhunske veštačke inteligencije. Ona ne mora biti zla, niti smeštena u telo robota, kako bi napravila pravi haos. Tegmark ističe da „stvarni rizik, kada je u pitanju veštačka inteligencija, nije zloba već sposobnost. Nadljudska veštačka inteligencija biće veoma uspešna u postizanju svojih ciljeva, a ako se ti ciljevi ne poklapaju sa našim, nadrljali smo.“

Što se tiče opsesije robotima, moramo imati u vidu da je sistem za nadzor – onaj koji konstantno prati većinu ljudi na ovoj planeti i pomoću algoritama velikih kompanija analizira njihovo ponašanje i navike – u stanju da uništi našu privatnost, individualnost i demokratske institucije čak i bez angažovanja terminatoru sličnih mašina za ubijanje.

Vodič Maksa Tegmarka ne bavi se svim mogućim scenarijima, a to svakako ne bi ni bilo moguće. Autor, recimo, ne pridaje dovoljno pažnje činjenici da će ovo stoleće oblikovati informacione tehnologije u sadejstvu sa biotehnologijom. Veštačka inteligencija će igrati ključnu ulogu jer ćemo zahvaljujući njoj imati dovoljno računarske snage da „hakujemo“ ljudski organizam. Znatno pre pojave superinteligentnih računara, naše društvo će u potpunosti transformisati krajnje primitivna i glupa veštačka inteligencija, koja će bez obzira na svoja ograničenja biti u stanju da hakuje ljude, predviđa njihova osećanja, donosi odluke umesto njih i manipuliše njihovim željama.

Kada vas algoritam upozna bolje nego što znate sebe same, institucije poput demokratskih izbora i slobodnog tržišta postaju izlišne, a svetom vladaju algoritmi. Umesto što se bojimo robota-ubica, trebalo bi da nas zabrinu horde „botova“ koji će umeti da manipulišu nama bolje od naših majki i koristiti tu sposobnost da nam nešto prodaju. „Apokalipsa posredstvom šopinga“ jedan je od izvesnih scenarija.

Najveći problem Tegmarkove knjige je ipak to što nije u stanju da izađe izvan okvira aktuelnih političkih debata. Razvoj veštačke inteligencije pretvara mnoge filozofske probleme u praktična politička pitanja i primorava nas da se bavimo onim što je filozof Nik Bostrom nazvao „filozofija sa rokom trajanja“. Filozofi se već hiljadama godina raspravljaju o pitanjima svesti i slobodne volje i nikako nisu u stanju da postignu konsenzus. To nije bilo važno u vreme Platona ili Dekarta kada je superinteligencija mogla nastati samo u nečijoj mašti. U 21. veku su, međutim, ove debate počele da se sele sa filozofskih na katedre za inženjering i informatiku. I dok su filozofi veoma strpljivi ljudi, inženjeri to nikako nisu, a ulagači investicionih fondova još manje. Inženjeri koji u „Tesli“ projektuju samovozeće automobile nemaju vremena da čekaju kraj filozofskih rasprava o njihovom proizvodu.

Tegmark stoga brzo napušta poznate rasprave o tržištu rada, zaštiti ličnih podataka i oružju za masovno uništenje i zalazi u domen koji je do sada pre povezivan sa filozofijom, teologijom i  mitologijom nego sa politikom. To se nije moglo izbeći. Pre svega zbog toga što nastanak nadljudske veštačke inteligencije predstavlja događaj svetskih ili čak kosmičkih, a ne nacionalnih dimenzija. Život na Zemlji se razvijao četiri milijarde godina u skladu sa zakonima prirodne selekcije i organske hemije. Nauka nas sada uvodi u eru evolucije neorganskog života, iza koje stoji inteligentni tvorac. Taj oblik života će jednog dana najverovatnije napustiti ovu planetu i raširiti se po galaksiji. Odluke koje donosimo danas mogu presudno uticati na trajektoriju kojom će se život kretati hiljadama godina u budućnost, kada više ne bude vezan za Zemlju.

Iako je Tegmark verovatno u pravu kada celu priču uzdiže na kosmički nivo, bojim se da većina potencijalnih čitalaca neće biti u stanju da ga prate. Naši politički sistemi, kao ni naši individualni umovi, nisu građeni za promišljanje na tom nivou. Savremeni politički mehanizmi jedva pronalaze rešenja koja bi važila tek nekoliko decenija – kako onda od njih očekivati odluke koje će odzvanjati kroz milenijume? Ko ima vremena da razmišlja o veštačkoj inteligenciji koja će zavladati planetom kada moramo da brinemo o Donaldu Trampu i Bregzitu?

Kada je reč o revoluciji do koje će dovesti napredak veštačke inteligencije, čovečanstvo će, kao i do sada, najmudrije odluke najverovatnije donositi na osnovu kratkoročnih, kratkovidih analiza. O budućnosti života na Zemlji odlučivaće drugorazredni političari koji će širiti strah od terorističkih napada, akcionari zabrinuti za kvartalne prihode i marketinški stručnjaci čiji će jedini cilj biti da potrošačko iskustvo podignu na viši nivo.

Autor: Juval Noa Harari
Izvor: theguardian.com
Prevod: Jelena Tanasković