Prikaz knjige „Homo Deus: Kratka istorija sutrašnjice“ Juvala Noe Hararija – kako će podaci uništiti ljudsku slobodu
Ova sjajna knjiga zasnovana je na jednostavnoj ali zastrašujućoj ideji : ljudska priroda će se promeniti tokom 21. veka jer se inteligencija razilazi od savesti. Nećemo u skorijoj budućnosti uspeti da napravimo mašine koje će imati osećanja poput nas: to je savest. Roboti se neće zaljubljivati jedni u druge (što ne znači da mi nismo sposobni da se zaljubimo u robote). Ali mi smo već napravili mašine – ogromne mreže za obradu podataka – koje mogu razumeti naša osećanja bolje od nas: to je inteligencija. Gugl – pretraživač, ne kompanija – nema sopstvene želje i potrebe. Ne zanima ga šta pretražujemo i naše ponašanje ga ne može povrediti. Ali zato može da procesuira naše postupke kako bi znao šta želimo pre nego što to i sami shvatimo. Sama ta činjenica ima potencijal da promeni značenje onoga što predstavlja čovek.
Prethodna knjiga Juvala Noe Hararija, svetski bestseler „Sapiens“, prikazao je poslednjih 75 hiljada godina ljudske istorije kako bi nas podsetio da nema ničeg posebnog niti esencijalnog u tome ko smo. Mi smo samo slučajnost. Homo sapiens je samo jedan od mogućih načina da se bude čovek, evolutivna kontingentnost poput bilo kog drugog bića na planeti. Knjiga se završava mišlju da bi priča o homo sapiensu mogla doći do svog kraja. Na vrhuncu smo sopstvene moći i možda smo dosegli gornju granicu. „Homo Deus“ nastavlja na tu temu kako bi objasnio da nas naša neuporediva sposobnost da kontrolišemo svet oko sebe pretvara u nešto novo.
Dokaz naše moći je svuda: ne samo da smo osvojili prirodu već smo počeli da poražavamo najveće neprijatelje čovečanstva. Rat je zastarela stvar; glad je retkost; bolesti se povlače širom sveta. Sve ove trijumfe postigli smo izgradnjom složenih mreža koje posmatraju ljudska bića kao jedinice informacija. Nauka o evoluciji nas, s jedne strane, uči da smo puke mašine za obradu podataka, drugim rečima, i mi smo algoritmi. Upotrebom podataka možemo vežbati ovladavanje sopstvenom sudbinom. Problem je u tome što drugi algoritmi – oni koje smo mi stvorili – mogu to isto raditi samo mnogo efikasnije od nas. To je ono što Harari podrazumeva pod „razilaženjem“ inteligencije i savesti. Projekat modernizacije je nastao na ideji da su pojedinci, ljudska bića, izvori značenja i moći. Trebalo bi da smo mi ti koji odlučujemo šta će nam se dogoditi: kao glasači, konzumenti, ljubavnici. Ali to više nije istina. Mi smo ono što mrežama daje moć: one koriste naše ideje o značenju kako bi utvrdile šta će nam se dogoditi.
Ničega novog tu nema. Savremena država, koja postoji nekih četiri stotine godine, zaista je samo mašina za obradu podataka. Filozof Tomas Hobs je, pišući 1651. godine, to nazvao „automatonom“ (ili onim što mi danas nazivamo robotom). Njene robotske osobine su izvor njene moći, kao i bezosećajnosti: države nemaju savest što im omogućava da ponekad urade najstrašnije stvari. Ono što se promenilo je da danas imamo obradne mašine koje su daleko efikasnije od država: kako Harari ističe, gotovo je nemoguće da vlade uspeju da održe korak sa tehnološkim napretkom. A sve je teže i zadržati uverenje da iza svake države stoje ljudi od krvi i mesa. Savremeno insistiranje na autonomiji pojedinca ide pod ruku sa pogledom na to da bi trebalo pronaći srce u ovom svetu bez srca. Ako uporno grebete po birokratiji bez lica, u jednom trenutku ćete otkriti civilnog radnika koji ima stvarna osećanja. Ali ako uporno grebete po pretraživaču, sve što ćete naći su vrednosti podataka.
Tek smo na početku ovog procesa transformacije vođene podacima i Harari kaže da je malo toga što možemo učiniti da to promenimo. „Homo Deus“ je knjiga o „kraju istorije“, ali ne u banalnom smislu koji predviđa da će se stvari zaustaviti. Pre će biti suprotno: stvari se toliko brzo menjaju da je nemoguće zamisliti šta budućnost donosi. U XIX veku je bilo moguće smisleno razmišljati o tome kako će svet izgledati posle 1900. godine i kako ćemo se u to uklopiti. To je istorija: sekvenca događaja u kojoj ljudska bića igraju glavnu ulogu. Ali svet 2100. je u sadašnjem trenutku nezamisliv. Nemamo predstavu gde se uklapamo, ako se uopšte i uklapamo. Možda smo izgradili svet u kome za nas nema mesta.
S obzirom na alarmantnost ove misli i to da još uvek nismo stigli do te tačke, zašto ne uradimo nešto kako bismo sprečili da se to dogodi? Harari smatra da je savremeno uverenje da pojedinci upravljaju svojom sudbinom ništa više od običnog verovanja. Prava moć leži u mrežama. Pojedinci su relativno nemoćna bića, ne mogu se meriti sa lavovima ili medvedima. Planetu su uspeli da preuzmu zahvaljujući tome što mogu da postignu kao grupa. Ta grupisanja – korporacije, religije, države – su danas deo širokih mreža međusobno povezanog protoka informacija. Stvoriti tačke otopora, gde manje jedinice staju na put informacijama koje kruže planetom, postaje sve teže i teže.
Neki ljudi su odustali od borbe. Na mestu osnovnih načela savremenog društva – liberalizma, demokratije i lične autonomije – sada se nalazi nova religija: dataizam. Njeni sledbenici – od kojih se mnogi nalaze u zalivskoj oblasti Kalifornije – svoju veru u informacije produbljuju ubeđujući nas da ih posmatramo kao jedini stvaran izvor vrednosti. Važni smo koliko doprinosimo obradi podataka. Postoji i potencijalna prednost svega ovoga: suočavaćemo se sa sve manje i manje prepreka na putu do onoga što želimo jer su informacije koje su nam potrebne odmah dostupne. Ono što nam se dopada i naša iskustva će se sjediniti. Naš životni vek bi se mogao drastično povećati: dataisti veruju da je besmrtnost sledeća granica koju ćemo proći. Ali je takođe očigledna i loša strana svega. Ko ćemo „mi“ biti? Ništa više od akumulacije informacionih tačaka. Političke distopije dvadesetog veka su pokušale da žigošu pojedinca snagom države. To više neće biti potrebno. Kako Harari kaže: „Pojedinca više neće lomiti Veliki brat; sjediniće se sa njim iznutra.“
Korporacije i vlade će nastaviti da odaju počast našoj individualnosti i posebnim potrebama, ali da bismo im služili, moraće da „nas razbiju u biohemijske podsisteme“ koje će nadgledati moćni algoritmi. U svemu tome postoji i distopijski politički aspekt: pojedinci koji prvi pristupe dataističkom projektu će biti oni kojima će preostati nekakva stvarna moć i pred njima će biti relativno malo izazova. Ulazak u ovu novu super elitu biće neverovatno težak. Biće vam potrebno neverovatno obrazovanje i nećete smeti da oklevate da svoj identitet prepustite inteligentnoj mašini. Tada možete postati jedan od novih „bogova“. Mračna je to perspektiva: mala sveštenička kasta vidovnjaka sa pristupom krajnjem izvoru znanja dok ostatak sveta predstavlja alate u njihovim širokim šemama. Budućnost može postati digitalno super izmenjena verzija daleke prošosti: stari Egipat pomnožen snagom Fejsbuka.
Harari je oprezan, pa se ne usuđuje da tvrdi da će se ovakve vizije zaista ostvariti. Budućnost je ipak nepojmljiva. Svoja najsnažnija mišljenja je fokusirao na trenutno stanje u odnosu ljudi i životinja. Ako se inteligencija i savest razilaze, to stavlja ljudska bića u istu poziciju kao životinje koje u rukama superiorne inteligencije postaju podložne patnji. Hararija izgleda ne brine mnogo perspektiva u kojoj bi roboti mogli da se odnose prema nama kako se mi odnosimo prema muvama. Više želi da se zapitamo kako se mi odnosimo prema životinjama u širokim sistemima za uzgoj stoke. Svinje svakako pate kada žive u lošim uslovima i kada su nasilno odvojene od svojih mladunaca. Ako mislimo da se ovakva patnja ne računa jer nije u ravni sa višom inteligencijom, samo se zavaravamo. Uskoro nas očekuje isto to. Koja je onda cena patnje?
Reč je o veoma inteligentnoj knjizi prepunoj oštrih uvida i zajedljive pronicljivosti. Ali kako bi se sam Harari prvi složio, inteligentna je samo po ljudskim standardima, a oni i nisu nešto posebno. Po standardima najpametnijih mašina, knjiga je nejasna i spekulativna. Pristup podacima je poprilično ograničen. Njena prava snaga leži u osećaju prepoznatljive savesti koja se krije iza svega. Harariju je stalo do sudbine životinja u svetu ljudi, ali piše o perspektivi homo sapiensa u svetu koji vode podaci sa uzvišenom bezbriznošću. To mi se veoma dopalo, ali je razlog možda i u tome ko sam (pre svega muškarac). Neće se svima dopasti. Ali je teško zamisliti ravnodušnog čitaoca. Niče je jednom napisao da će čovečanstvo zaploviti otvorenim morem sada kada je konačno ostavilo za sobom hrišćanski moral. „Homo Deus“ stvara osećaj kao da smo na samoj ivici provalije nakon dugog i napornog putovanja. Putovanje više ne deluje toliko važno. Uskoro ćemo zakoračiti u vazduh.
Izvor: theguardian.com
Prevod: Dragan Matković
Prethodna knjiga Juvala Noe Hararija, svetski bestseler „Sapiens“, prikazao je poslednjih 75 hiljada godina ljudske istorije kako bi nas podsetio da nema ničeg posebnog niti esencijalnog u tome ko smo. Mi smo samo slučajnost. Homo sapiens je samo jedan od mogućih načina da se bude čovek, evolutivna kontingentnost poput bilo kog drugog bića na planeti. Knjiga se završava mišlju da bi priča o homo sapiensu mogla doći do svog kraja. Na vrhuncu smo sopstvene moći i možda smo dosegli gornju granicu. „Homo Deus“ nastavlja na tu temu kako bi objasnio da nas naša neuporediva sposobnost da kontrolišemo svet oko sebe pretvara u nešto novo.
Dokaz naše moći je svuda: ne samo da smo osvojili prirodu već smo počeli da poražavamo najveće neprijatelje čovečanstva. Rat je zastarela stvar; glad je retkost; bolesti se povlače širom sveta. Sve ove trijumfe postigli smo izgradnjom složenih mreža koje posmatraju ljudska bića kao jedinice informacija. Nauka o evoluciji nas, s jedne strane, uči da smo puke mašine za obradu podataka, drugim rečima, i mi smo algoritmi. Upotrebom podataka možemo vežbati ovladavanje sopstvenom sudbinom. Problem je u tome što drugi algoritmi – oni koje smo mi stvorili – mogu to isto raditi samo mnogo efikasnije od nas. To je ono što Harari podrazumeva pod „razilaženjem“ inteligencije i savesti. Projekat modernizacije je nastao na ideji da su pojedinci, ljudska bića, izvori značenja i moći. Trebalo bi da smo mi ti koji odlučujemo šta će nam se dogoditi: kao glasači, konzumenti, ljubavnici. Ali to više nije istina. Mi smo ono što mrežama daje moć: one koriste naše ideje o značenju kako bi utvrdile šta će nam se dogoditi.
Ničega novog tu nema. Savremena država, koja postoji nekih četiri stotine godine, zaista je samo mašina za obradu podataka. Filozof Tomas Hobs je, pišući 1651. godine, to nazvao „automatonom“ (ili onim što mi danas nazivamo robotom). Njene robotske osobine su izvor njene moći, kao i bezosećajnosti: države nemaju savest što im omogućava da ponekad urade najstrašnije stvari. Ono što se promenilo je da danas imamo obradne mašine koje su daleko efikasnije od država: kako Harari ističe, gotovo je nemoguće da vlade uspeju da održe korak sa tehnološkim napretkom. A sve je teže i zadržati uverenje da iza svake države stoje ljudi od krvi i mesa. Savremeno insistiranje na autonomiji pojedinca ide pod ruku sa pogledom na to da bi trebalo pronaći srce u ovom svetu bez srca. Ako uporno grebete po birokratiji bez lica, u jednom trenutku ćete otkriti civilnog radnika koji ima stvarna osećanja. Ali ako uporno grebete po pretraživaču, sve što ćete naći su vrednosti podataka.
Tek smo na početku ovog procesa transformacije vođene podacima i Harari kaže da je malo toga što možemo učiniti da to promenimo. „Homo Deus“ je knjiga o „kraju istorije“, ali ne u banalnom smislu koji predviđa da će se stvari zaustaviti. Pre će biti suprotno: stvari se toliko brzo menjaju da je nemoguće zamisliti šta budućnost donosi. U XIX veku je bilo moguće smisleno razmišljati o tome kako će svet izgledati posle 1900. godine i kako ćemo se u to uklopiti. To je istorija: sekvenca događaja u kojoj ljudska bića igraju glavnu ulogu. Ali svet 2100. je u sadašnjem trenutku nezamisliv. Nemamo predstavu gde se uklapamo, ako se uopšte i uklapamo. Možda smo izgradili svet u kome za nas nema mesta.
S obzirom na alarmantnost ove misli i to da još uvek nismo stigli do te tačke, zašto ne uradimo nešto kako bismo sprečili da se to dogodi? Harari smatra da je savremeno uverenje da pojedinci upravljaju svojom sudbinom ništa više od običnog verovanja. Prava moć leži u mrežama. Pojedinci su relativno nemoćna bića, ne mogu se meriti sa lavovima ili medvedima. Planetu su uspeli da preuzmu zahvaljujući tome što mogu da postignu kao grupa. Ta grupisanja – korporacije, religije, države – su danas deo širokih mreža međusobno povezanog protoka informacija. Stvoriti tačke otopora, gde manje jedinice staju na put informacijama koje kruže planetom, postaje sve teže i teže.
Neki ljudi su odustali od borbe. Na mestu osnovnih načela savremenog društva – liberalizma, demokratije i lične autonomije – sada se nalazi nova religija: dataizam. Njeni sledbenici – od kojih se mnogi nalaze u zalivskoj oblasti Kalifornije – svoju veru u informacije produbljuju ubeđujući nas da ih posmatramo kao jedini stvaran izvor vrednosti. Važni smo koliko doprinosimo obradi podataka. Postoji i potencijalna prednost svega ovoga: suočavaćemo se sa sve manje i manje prepreka na putu do onoga što želimo jer su informacije koje su nam potrebne odmah dostupne. Ono što nam se dopada i naša iskustva će se sjediniti. Naš životni vek bi se mogao drastično povećati: dataisti veruju da je besmrtnost sledeća granica koju ćemo proći. Ali je takođe očigledna i loša strana svega. Ko ćemo „mi“ biti? Ništa više od akumulacije informacionih tačaka. Političke distopije dvadesetog veka su pokušale da žigošu pojedinca snagom države. To više neće biti potrebno. Kako Harari kaže: „Pojedinca više neće lomiti Veliki brat; sjediniće se sa njim iznutra.“
Korporacije i vlade će nastaviti da odaju počast našoj individualnosti i posebnim potrebama, ali da bismo im služili, moraće da „nas razbiju u biohemijske podsisteme“ koje će nadgledati moćni algoritmi. U svemu tome postoji i distopijski politički aspekt: pojedinci koji prvi pristupe dataističkom projektu će biti oni kojima će preostati nekakva stvarna moć i pred njima će biti relativno malo izazova. Ulazak u ovu novu super elitu biće neverovatno težak. Biće vam potrebno neverovatno obrazovanje i nećete smeti da oklevate da svoj identitet prepustite inteligentnoj mašini. Tada možete postati jedan od novih „bogova“. Mračna je to perspektiva: mala sveštenička kasta vidovnjaka sa pristupom krajnjem izvoru znanja dok ostatak sveta predstavlja alate u njihovim širokim šemama. Budućnost može postati digitalno super izmenjena verzija daleke prošosti: stari Egipat pomnožen snagom Fejsbuka.
Harari je oprezan, pa se ne usuđuje da tvrdi da će se ovakve vizije zaista ostvariti. Budućnost je ipak nepojmljiva. Svoja najsnažnija mišljenja je fokusirao na trenutno stanje u odnosu ljudi i životinja. Ako se inteligencija i savest razilaze, to stavlja ljudska bića u istu poziciju kao životinje koje u rukama superiorne inteligencije postaju podložne patnji. Hararija izgleda ne brine mnogo perspektiva u kojoj bi roboti mogli da se odnose prema nama kako se mi odnosimo prema muvama. Više želi da se zapitamo kako se mi odnosimo prema životinjama u širokim sistemima za uzgoj stoke. Svinje svakako pate kada žive u lošim uslovima i kada su nasilno odvojene od svojih mladunaca. Ako mislimo da se ovakva patnja ne računa jer nije u ravni sa višom inteligencijom, samo se zavaravamo. Uskoro nas očekuje isto to. Koja je onda cena patnje?
Reč je o veoma inteligentnoj knjizi prepunoj oštrih uvida i zajedljive pronicljivosti. Ali kako bi se sam Harari prvi složio, inteligentna je samo po ljudskim standardima, a oni i nisu nešto posebno. Po standardima najpametnijih mašina, knjiga je nejasna i spekulativna. Pristup podacima je poprilično ograničen. Njena prava snaga leži u osećaju prepoznatljive savesti koja se krije iza svega. Harariju je stalo do sudbine životinja u svetu ljudi, ali piše o perspektivi homo sapiensa u svetu koji vode podaci sa uzvišenom bezbriznošću. To mi se veoma dopalo, ali je razlog možda i u tome ko sam (pre svega muškarac). Neće se svima dopasti. Ali je teško zamisliti ravnodušnog čitaoca. Niče je jednom napisao da će čovečanstvo zaploviti otvorenim morem sada kada je konačno ostavilo za sobom hrišćanski moral. „Homo Deus“ stvara osećaj kao da smo na samoj ivici provalije nakon dugog i napornog putovanja. Putovanje više ne deluje toliko važno. Uskoro ćemo zakoračiti u vazduh.
Izvor: theguardian.com
Prevod: Dragan Matković
