Juval Noa Harari autor knjige „Homo Deus“ predviđa: Uskoro će knjige koje čitamo, čitati nas

Dr Juval Noa Harari, koji je zvanje doktora istorijskih nauka stekao na Univerzitetu Oksford, a danas predaje na Jevrejskom univerzitetu u Jerusalimu, jedan je od najpoznatijih stručnjaka  za istoriju sveta. Autor je knjige „Homo Deus: Kratka istorija sutrašnjice“. Njegova prethodna knjiga „Sapijens: Kratka istorija čovečanstva“, objavljena 2014, postigla je svetski uspeh i prevedena je na skoro 40 jezika.

Na samom kraju knjige, pozivate čitaoce da razmisle o činjenici da je „nauka na pragu sveobuhvatnog otkrića koje se zasniva na ideji da su organizmi zapravo algoritmi, a život obrada podataka“. Da li je u tome suština nove revolucije koju nazivate „dataizam“? I da li je ovo učenje primenjivo na čitav univerzum?

Dataizam je stanovište zasnovano na premisi da se čitav univerzum svodi na protok podataka, a svi fenomeni u univerzumu mogu biti objašnjeni na osnovu obrade podataka. Paradajz i čovek su dva različita mehanizma za obradu podataka; to su i komunizam i kapitalizam. Ključna razlika između komunizma i kapitalizma je u tome što se komunizam oslanja na centralizovan sistem obrade podataka, dok se kapitalizam oslanja na distributivni sistem obrade podataka. Prema dataizmu, ono što obično nazivamo osećanjima i željama zapravo su samo biohemijski algoritmi. Osećanja se ne zasnivaju na intuiciji i inspiraciji – osećanja su zasnovana na kalkulaciji.

Kada se pavijan, žirafa ili čovek nađu oči u oči sa lavom, strah se javlja jer milioni neurona u mozgu prave kalkulaciju na osnovu relevantnih podataka i zaključuju da je verovatnoća da dođe do smrtnog ishoda visoka. Najčešće ne uspevamo da shvatimo da su osećanja zapravo kalkulacije, jer se proces biohemijske kalkulacije dešava toliko brzo da ostaje ispod nivoa naše svesti. Mi ne osećamo kako milioni neurona u našem mozgu izračunavaju verovatnoću našeg preživljavanja i reprodukcije, i zbog toga pogrešno verujemo da je naš strah od lavova, naš izbor seksualnih partnera ili naše mišljenje o Evropskoj uniji rezultat neke naše, tajanstvene „slobodne volje“.

Konačno, dataizam se zasniva na uverenju da bi spajanje dovoljne količine biometrijskih podataka sa dovoljno snažnim računarom, velikim korporacijama i vladama omogućilo kreiranje algoritma koji bi me poznavali bolje nego što ja sâm poznajem sebe, i da bi se samim tim moj autoritet mogao preneti sa mene na algoritam. Algoritam će moći da razume moje želje, predvidi moje odluke, i u moje ime pravi bolje izbore. To počinje od jednostavnih stvari, kao što je izbor koju knjigu kupiti i pročitati. Kako su ljudi birali knjige pre dvadeset godina? Oslanjali su se na sopstvena osećanja i na preporuke svojih prijatelja. Danas sve više koristimo Amazon. Kada uđem u Amazonovu virtualnu prodavnicu, odmah mi iskoči poruka: „Znam koje ste knjige ranije rado čitali. Ljudima, koji imaju sličan čitalački ukus, dopala se ova ili ona nova knjiga.“ A to je samo početak. Uređaji poput Amazonovog Kindla mogu neprestano da sakupljaju podatke o svojim korisnicima dok čitaju knjige. Vaš Kindl može da prati koje delove knjige čitate brzo, a koje polako; na kojoj stranici ste napravili pauzu, a na kojoj rečenici ste zauvek odustali od knjige. Ako bi se Kindl unapredio softverom za prepoznavanje lica i biometričkim senzorima, mogao bi da prati i kako svaka pojedina rečenica utiče na vaš srčani ritam i krvni pritisak. Mogao bi da zna šta vas je zasmejalo, šta vas je rastužilo, a šta naljutilo.

Uskoro će knjige, dok čitate, čitati vas! I dok vi brzo zaboravljate veći deo onoga što ste pročitali, računarski programi nikad ne zaboravljaju, ništa. Ovi podaci će vremenom omogućiti da Amazon savršeno precizno bira knjige umesto vas. To će Amazonu istovremeno omogućiti da zna tačno ko ste, i kako da kod vas izazove određene emocionalne reakcije. Ako bismo ovo doveli do krajnjih logičkih konsekvenci, vremenom bi ljudi mogli da na algoritam prenesu punomoćje da on donosi sve najvažnije odluke u njihovim životima, kao što je odluka šta studirati, sa kim stupiti u brak i za koga glasati na izborima.

Šta je važnije: spajanje biotehnologije sa informacionim tehnologijama? Genetski inženjering i veštačka inteligencija?

Suština ove revolucije je spajanje biotehnologije sa informacionim tehnologijama. Ukoliko su organizmi algoritmi, onda zapravo i nema razlike između biotehnologije i informacionih tehnologija. Razbijanje biohemijskog algoritma organizma je ključ i za reprogramiranje ovih organizama (uz pomoć genetskog inženjeringa), ali i za osposobljavanje veštačke inteligencije. Kako napreduju informacione tehnologije – tako će se razvijati i biotehnologija. Što je veća računarska snaga kojom raspolažemo, lakše ćemo analizirati biološke obrasce, i naučiti kako da dijagnostikujemo bolesti i identifikujemo emocionalne zakonitosti. Zauzvrat, ove sposobnosti će omogućiti veštačkoj inteligenciji da leči ljudske bolesti, identifikuje teroriste među ljudima, preporučuje partnere i usmerava kretanje na ulicama punim pešaka.



Mnogi na veštačku inteligenciju gledaju kao na pretnju. Šta vi mislite?

U veštačkoj inteligenciji postoji ogroman potencijal. Automatizovana vozila bi mogla značajno da smanje broj saobraćajnih nesreća, kao i nivo zagađenja, dok u zdravstvu veštačka inteligencija može da obezbedi zdravstvenu zaštitu milionima ljudi koji je trenutno nemaju. Ali veštačka inteligencija krije i određene opasnosti. Ne pribojavam se holivudskih scenarija. U tipičnom, naučno-fantastičnom filmu, onog trenutka kada računar razvije visoku inteligenciju, neizbežno dolazi i do razvoja svesti i onda se ili neko ljudsko biće zaljubi u taj računar ili računar pokuša da uništi čovečanstvo. Ovo nisu realistični scenariji jer su inteligencija i svest dve veoma različite stvari. Inteligencija je sposobnost rešavanja problema, dok je svest sposobnost da se oseća i želi.  Kod ljudskih bića i ostalih sisara inteligencija ide ruku pod ruku sa svešću. Bankari, profesionalni vozači, lekari i sudije se oslanjaju na svoja osećanja u rešavanju određenih problema. Međutim, računari mogu da reše ove probleme na potpuno drugačiji način, i nema nikakvog opravdanja za pretpostavku da bi s vremenom mogli da razviju i svest. U poslednjih pedeset godina dogodio se neverovatan napredak u kompjuterskoj inteligenciji, ali nije zabeležen nikakav pomak u razvoju kompjuterske svesti.

Postoji nekoliko alternativnih puteva do inteligencije, i samo neki od njih podrazumevaju sticanje svesti. Kao što avioni lete brže od ptica, iako nemaju perje niti mogu da ga vremenom razviju, tako će i računari u jednom trenutku prevazići ljude u rešavanju problema, a neće početi da razvijaju osećanja. Naravno, veštačka inteligencija će morati da precizno analizira ljudska osećanja, da bi uspešno lečila ljudske bolesti, identifikovala teroriste, preporučivala ljubavne partnere i usmeravala kretanje na prometnim ulicama.  Ali to može da obavlja bez uključivanja sopstvenih osećanja. Prema tome, ne verujem da bi veštačka inteligencija mogla da odjednom razvije svest, oseti neobuzdane porive i počne da ubija ljude. Mene mnogo više brinu neke druge opasnosti. Prvo, veštačka inteligencija računara bi mogla da podstakne prirodnu glupost ljudskih bića.

Roboti nikada neće svojom slobodnom voljom odlučiti da ubijaju ljude – ali bi ljudi koji kontrolišu robote mogli to da im narede. Upravo zato što nemaju sopstvenu svest i osećanja, roboti se nikada ne bi pobunili protiv svojih gospodara, bez obzira na stravične naredbe koje bi dobili. Armija robota bi bez sumnje osujetila Francusku revoluciju 1789, i Hosni Mubarak 2011. ne bi morao da strahuje od poraza da je imao kontigent robota-ubica koje bi pustio na svoj narod. Slično tome, neka imperijalistički nastrojena vlada u posedu armije robota mogla bi da vodi nepopularne ratove bez straha da bi oni u nekom trenutku mogli da izgube motivaciju. Da je Francuska imala robote-ubice u Alžiru pedesetih godina, mogla bi da razvlači taj rat decenijama. Druga ozbiljna opasnost je da bi veštačka inteligencija i robotika mogle da doprinesu bogaćenju malih elita, nalik onoj u Silicijumskoj dolini, istovremeno ostavljajući bez posla stotine miliona ljudi. Čovečanstvo bi moglo da se podeli na malu, višu klasu super ljudi i ogromnu klasu „beskorisnih ljudi“ lišenih ekonomske vrednosti i političke moći.



Da li biste dali neku preporuku naučnicima? Mislite li da su možda zakazali u predviđanjima?

Većina naučnika je prvenstveno zainteresovana za usko tehničke detalje iz njihove oblasti i nedovoljno zainteresovana za društvene i političke implikacije njihovih otkrića. Osim toga, često imaju preterano optimistično viđenje ljudske prirode i načina na koji će ljudi koristiti njihove izume. Želim da podsetim naučnike na činjenicu da sve ono što oni stvore, ne ostaje pod njihovom kontrolom – njihova otkrića završe u rukama ljudi kao što su Tramp, Putin, Erdogan i Netanjahu.

Šta je onda vaše konačno mišljenje? Da li su organizmi zaista samo algoritmi, i da li je život stvarno samo obrada podataka?

Mi to još uvek ne znamo, jer smo daleko od toga da razumemo način na koji funkcioniše um. Mnogi ljudi, čak i mnogi naučnici, često poistovećuju mozak sa umom, ali to su zapravo vrlo različite stvari. Mozak je materijalna mreža neurona i sinapsi. Um podrazumeva tok subjektivnih iskustava, poput bola, zadovoljstava, besa i ljubavi. Nauka pretpostavlja da mozak na neki način stvara um, i da biohemijske reakcije milijardi neurona nekako proizvode čulna iskustva kao što su bol i ljubav. Međutim, do sada nismo uspeli da dođemo do bilo kakvog objašnjenja na koji način um izranja iz mozga. Kako to da kada milijarde neurona ispaljuju električne impulse po određenom obrascu osećam bol, a kada se to događa po drugom obrascu, osećam ljubav? Na to pitanje nemamo odgovor.

To je ogromna praznina u našem razumevanju života. I vrlo je opasna. U poslednjim vekovima, uspeli smo da uspostavimo kontrolu nad spoljašnjim svetom i preoblikujemo čitavu planetu, ali pošto nismo shvatili složenost globalne ekologije, promene koje smo napravili nepopravljivo su poremetile čitav ekološki sistem. U nastupajućem veku možda ćemo uspeti da uspostavimo kontrolu nad svetom unutar nas i možda ćemo uspeti da preoblikujemo naša tela i mozgove, ali budući da ne razumemo složenost naših sopstvenih umova, promene koje napravimo mogle bi nepopravljivo da poremete naš mentalni sistem.

Kako biste „ocenili“ ovu revoluciju, u poređenju sa onima koje su joj, u istoriji čovečanstva, prethodile (heliocentrizam, teorija relativiteta, kvantna mehanika...)?

Po svojim praktičnim implikacijama, to je najveća revolucija ne samo u istoriji čovečanstva, već u istoriji života uopšte. Tokom četiri milijarde godina životom na zemlji upravljali su zakoni prirodne selekcije. Za sve to vreme, bilo da je reč o virusu ili dinosaurusu, evolucija je bila određena principima prirodne selekcije. Osim toga, kakav god oblik da je život poprimao, bez obzira na to koliko se činio neobično ili bizarno, sve je ostajalo u domenu organskog.

Bilo da ste kaktus ili kit, sačinjeni ste od organskih jedinjenja i podležete zakonima organske hemije. U sledeća dva veka, međutim, nauka bi mogla da ubrza nastanak neorganskog života koji će biti proizvod stvaralačke inteligencije/inteligentnog dizajna. Ali ne u smislu stvaralačke inteligencije nekog boga sa nebesa – već u smislu naše stvaralačke inteligencije, i inteligencije naših računara.



„Šta da radimo s tom silnom moći?“ – jedno je od prvih pitanja koje postavljate u knjizi. Da li zaista verujete da je posthumanistički svet realnost i šta tačno pod tim podrazumevate?

Post-humanizam podrazumeva da iskoristimo svoje sposobnosti da promenimo ne samo svet koji nas okružuje, već i naš unutrašnji svet. Da promenimo sopstvena tela, mozgove i umove do te mere da prestanemo da budemo ljudi. Verujem da će za 200 godina Homo sapijens iščeznuti, a zemljom će vladati bića koja se od nas razlikuju više nego što se mi razlikujemo od Neandertalaca ili šimpanzi.

Danas mi sa Neandertalcima i šimpanzama delimo veći deo telesne strukture, fizičkih i mentalnih sposobnosti. Nisu samo naše šake, oči i mozgovi izrazito humanoidni, već i požuda, ljubav, bes koje osećamo, i društveni odnosi koje negujemo. U narednih 200 godina, kombinacija biotehnologije i veštačke inteligencije može iznedriti telesna, fizička i mentalna svojstva koja će potpuno izaći iz humanoidnih okvira.

U XX veku postojao je strah da bi posedovanje nuklearne moći moglo da dovede do potpunog uništenja čovečanstva. Da li na sličan način razmišljate o napretku novih tehnologija?

Smatram da bi upravo istorija nuklearnog oružja mogla da nam bude pouka kako da se izborimo sa izazovima koje pred nas stavljaju nove tehnologije. Tokom pedesetih i šezdesetih godina mnogi su bili ubeđeni da čovečanstvo ne poseduje dovoljno mudrosti da izbegne masovno uništenje, i da je samo pitanje vremena kada će se Hladni rat pretvoriti u nuklearnu apokalipsu. Istina je da se čovečanstvo uspešno izborilo sa nuklearnim izazovom. Supersile su promenile načina na koji se milenijumima vodila globalna politika, tako da se Hladni rat završio sa minimumom prolivene krvi, i novi globalistički svetski poredak je uspostavio eru gotovo sveopšteg mira.

Ne samo da nije došlo do nuklearnog rata, već su svi ratovi znatno proređeni. Nakon 1945, vrlo je mali broj zemalja, ako je ijedna, koje su zbog spoljašnjeg neprijatelja potpuno zbrisane sa karte sveta, i nema mnogo promena granica zbog čiste agresije. U 2016. godini, uprkos ratovima u Siriji, Ukrajini i drugim kriznim tačkama u svetu, manje ljudi je stradalo kao posledica ljudskog nasilja, nego u saobraćajnim nesrećama, zbog gojaznosti ili samoubistva. Nadam se da ćemo jednako uspešno odgovoriti na izazove koje pred nas postave veštačka inteligencija i bioinženjering.

Zbog čega ste napisali ovu knjigu? Da li vas zaista toliko brine činjenica da čovek postaje sve sličniji bogu?

Napisao sam knjigu jer sam zabrinut zbog opasnosti koje su svojstvene našim novim moćima, i verujem da još uvek možemo da preduzmemo nešto po tom pitanju. Tehnologije nikada nisu determinističke. One nam uvek nude mnogo mogućnosti, i nikad nas ne primoravaju da izaberemo neku od njih. U XX veku ljudi su imali mogućnost da upotrebe vozove, struju i radio kako bi gradili komunističke diktature, fašističke režime i liberalne demokratije. Na sličan način u XXI veku, veštačka inteligencija i bioinženjering mogu biti upotrebljeni za izgradnju potpuno drugačijih društava. Nadam se da ćemo donositi mudre odluke.



Vi smatrate da slobodna volja ne postoji. Kako  to utiče na vas lično?

Pojam „slobodna volja“ izaziva mnogo zabune. Ljudi, nesumnjivo, poseduju volju, imaju želje, i ponekad su slobodni da ostvare svoje želje. Međutim, ljudi nemaju slobodu da biraju svoje želje. U to možete vrlo lako da se uverite. Samo obratite pažnju na sledeću misao koja će se pojaviti u vašem umu. Odakle je došla? Da li ste izabrali da pomislite baš to što ste pomislili? Sigurno ne.

Ukoliko pažljivo proučite sopstveni um, shvatićete da vi nemate slobodu da izaberete šta mislite, šta osećate i šta želite. Kada to shvatimo postaćemo manje opsesivni po pitanju naših shvatanja, naših osećanja i naših želja. Ljudska bića pridaju previše važnosti svojim željama, do te mere da pokušavaju da preoblikuju čitav svet prema svojim potrebama. U pokušaju da ostvare svoje snove, ljudi su sleteli na Mesec, vodili svetske ratove i uništili ekološki sistem. Ako shvatite da vaše želje nisu posledica slobodnog izbora, već su samo proizvod biohemijskih procesa u vašem telu i mozgu, nadam se da ćete biti mnogo manje preokupirani njima.

Kada budemo zaista shvatili ko smo i kada budemo razumeli šta su zapravo naši umovi i naše želje, svet će postati mnogo bolje mesto od onog koje je bio dok smo samo pokušavali da ostvarimo sve što bi nam palo na pamet. Iz tog razloga ja svakodnevno odvajam dva sata za meditaciju, i svake godine se povlačim na 30 do 60 dana zbog meditativnog odmora. Praktikujem vipasana meditaciju, što je metod praćenja uma na sistematičan i objektivan način. Um je neprestano svestan svih telesnih senzacija. U svakom trenutku, neprestano osećamo neku senzaciju u telu, a um reaguje na to.

Čak i kada mislimo da reagujemo na svetsku ekonomsku krizu, na nešto što je Donald Tramp izjavio na televiziji, ili na neku bolnu uspomenu iz detinjstva, mi zapravo reagujemo na neku telesnu senzaciju koja se događa sada i ovde. U vipasani osoba vežba da opaža telesne senzacije i način na koji um reaguje na njih, po redu i objektivno, otkrivajući na taj način najskrivenije mentalne obrasce. Meditacija nije beg od stvarnosti. Ona je zapravo dolaženje u dodir sa stvarnošću. Barem dva sata dnevno imam mogućnost da opažam stvarnost kakva ona zaista jeste, dok sam ostalih 22 sata preplavljen mejlovima, tvitovima i smešnim video-klipovima sa macama. Bez vipasane, zahvaljujući kojoj sam stekao jasan uvid u realnost, mislim da ne bih mogao da napišem „Sapijensa“ i „Homo Deus“. 

Izvor: sciencesetavenir.fr
Prevod: Maja Horvat