Šta čeka čovečanstvo: automatizacija, nova moralnost i „globalna klasa beskorisnih“
Kako će izgledati naša budućnost – i to ne jedan vek od danas, već za samo dve decenije?
Biće zastrašujuće, ako verujete na reč Juvalu Noi Harariju, izraelskom istoričaru i autoru knjiga „Sapiens“ i „Homo Deus“, hrabrim delima koja nude uvid u kratku istoriju čovečanstva i prognozu onoga što nas čeka: doba algoritama i tehnologije zahvaljujući kojoj ćemo se transformisati u „superljude“ sa bogolikim osobinama.
Na jednoj tribini u organizaciji „Njujork Tajmsa“ i „How To“ akademije, Harari je sa publikom podelio svoja predviđanja i dao intervju kolumnisti „Tajmsa“, Tomasu L. Fridmanu. Ljudi su, upozorava, „stvorili toliko komplikovan svet da više ne možemo da razlučimo šta se događa“. Prenosimo vam najbolje delove intervjua.
Veštačka inteligencija i automatizacija će stvoriti „globalnu klasu beskorisnih“
Kao što je industrijska revolucija stvorila radničku klasu, automatizacija će stvoriti „globalnu klasu beskorisnih“, kaže gospodin Harari, a politička i društvena istorija narednih decenija će biti obeležena nadama i strahovima ove novonastale klase. Inovativne tehnologije, koje su donele neverovatan progres, mogle bi da se pokažu kao katastrofalne, ako izmaknu kontroli.
„Svaka tehnoligija ima dobar i loš potencijal“, rekao je. „Nuklearni rat je, očigledno, nešto stravično. Niko ga ne želi. Pitanje je kako ga sprečiti. Sa inovativnim tehnologijama opasnost je daleko veća jer se mnogostruko uvećava njihov potencijal. Postoje sile koje nas guraju da sve brže razvijamo ove inovativne tehnologije i veoma je teško unapred predvideti kakve će biti posledice, u smislu zajednice, u smislu međuljudskih odnosa i u političkom smislu.“
Nove tehnologije će ukinuti demokratiju, pa čak i naš osećaj za nas same
Kombinacija biotehnologija i informatičkih tehnologija mogla bi da dostigne tačku na kojoj se kreiraju sistemi i algoritmi koji nas razumeju bolje nego što razumemo sami sebe.
„Jednom kada se pojavi nešto spoljašnje što vas razume bolje nego što razumete sami sebe, liberalna demokratija, kakvu znamo iz prošlog veka i nešto duže, osuđena je na propast“, predviđa gospodin Harari.
„Liberalna demokratija se oslanja na osećanja ljudi, i mogla je da funkcioniše dok god nije postojao niko ko razume vaša osećanja bolje od vas – ili vaše majke“, rekao je. „Ali, ukoliko postoji algoritam koji vas poznaje bolje od rođene majke, a vi čak niste ni svesni toga, onda liberalna demokratija postaje emocionalna lutkarska predstava“, dodao je. „Šta se događa ako je vaše srce strani agent, dvostruki agent u službi nekog drugog, koji zna kako da vas pogodi u živac, ko zna kako da vas razbesni, kako da vas ohrabri, kako da vas razveseli? Ovo je pretnja koju danas počinjemo da primećujemo, na primer, na izborima i referendumima.
Tehnologija postaje novo oruđe za diskriminaciju – i to ne protiv manjinskih grupa, već protiv pojedinaca
U XX veku, diskriminisane su čitave grupe na osnovu različitih predrasuda. To je, međutim, bilo moguće ispraviti, jer te predrasude nisu bile istinite, a žrtve su mogle da se udruže i preduzmu određene političke aktivnosti. Ali u godinama i decenijama koje su pred nama, Harari kaže, „suočićemo se sa individualnom diskriminacijom, koja bi mogla biti zasnovana na realnoj proceni vaše ličnosti.“
Algoritmi, u službi neke kompanije, na osnovu analize vašeg profila na društvenim mrežama i vaše DNK, kao i na osnovu provere vaših školskih svedočanstava i profesionalnog učinka, mogu da formiraju vrlo preciznu sliku o tome ko ste i kakvi ste. „Nećete moći da se borite protiv ove vrste diskriminacije, najpre zato što ste sami u tome“, kaže Harari. „Oni ne vrše diskriminaciju protiv vas zato što ste Jevrejin ili homoseksualac, već zato što ste vi – vi. A najgore je to što će to biti istina. Možda zvuči smešno, ali, u stvari je strašno.“
Vreme se „ubrzava“
Bili su potrebni vekovi, pa čak i hiljade godina, da počnemo da ubiremo plodove odluka koje su donosili naši preci, na primer, uzgajanje pšenice koje je dovelo do poljoprivredne revolucije. Ali više nije tako.
„Vreme se ubrzava“, kaže gospodin Harari. Dugoročni ciljevi se više neće definisati na nivou vekova ili milenijuma – već na nivou dve decenije. „Po prvi put u istoriji mi nemamo nikakvu ideju o tome kako će ljudsko društvo izgledati u naredne dve decenije“, rekao je.
„Nalazimo se u istorijskoj situaciji bez presedana, u smislu da niko ne zna ništa o tome kako će svet izgledati za 20 ili 30 godina. I to ne samo u smislu geopolitike, nego čak ni kad je reč o tržištu poslova, o tome kakve će društvene veštine biti potrebne, kako će izgledati porodična struktura, kako će izgledati odnosi međi polovima. To znači da prvi put u istoriji nemamo nikakvu ideju čemu da učimo decu u školama.“
Lideri se fokusiraju na prošlost jer nemaju smislenu viziju budućnosti
Lideri i političke partije još uvek su zaglavljeni u XX veku, u ideološkim borbama između desnice i levice – kapitalisti protiv socijalista. Oni čak nemaju ni realistične ideje o tome kako će tržište poslova izgledati kroz dve decenije, kaže Harari, „zato što nisu u stanju da vide“.
„Umesto da formulišu smislenu viziju o tome gde će biti čovečanstvo 2050, oni se bave prepakivanjem nostalgičnih fantazija o prošlosti“, rekao je. „I kao da postoji neka vrsta takmičenja – ko može da se vrati dalje u prošlost. Tramp želi da se vrati u pedesete godine prošlog veka; Putin, u suštini, želi da se vrati u carsku Rusiju, a imamo i Islamsku državu koja želi da se vrati u sedmi vek na arabijskom poluostrvu. Izrael – oni su pobedili. Oni žele da se vrate unazad 2500 godina, u biblijsko vreme, tako da mi pobeđujemo. Mi imamo najdugoročniju nazadnu viziju.“
Ne postoji predodređena istorija
„Trenutno doživljavamo propadanje poslednje iluzije o neizbežnosti“, rekao je. Devedesete godine su bile preplavljene idejama o kraju istorije, o tome da je poslednja velika ideološka bitka XX veka završena pobedom liberalne demokratije i tržišnog kapitalizma.
To sada deluje neverovatno naivno, kaže Harari. „Trenutak u kojem se sada nalazimo je trenutak krajnjeg razočaranja i zbunjenosti, jer ljudi nemaju nikakvu ideju u kom pravcu će se stvari dalje odvijati. Vrlo je važno da budemo svesni loših strana, opasnosti koje sa sobom nose nove tehnologije. Korporacije, inženjeri, ljudi u laboratorijama ‒ svi oni se, prirodno, fokusiraju na ogromnu korist koju nam ove tehnologije mogu doneti, a na istoričarima, filozofima i naučnicima iz oblasti društvenih nauka je da razmišljaju o tome šta može da pođe po zlu.“
U složenom, međusobno povezanom svetu, neophodno je redefinisati moralnost
„Da biste postupali ispravno, nije dovoljno da postupate u skladu sa vrlinom“, kaže Harari. „Morate da razumete lanac uzroka i posledice.“
U savremenom svetu, krađa, na primer, postaje nešto strašno komplikovano. U prošlosti, u biblijskim vremenima, navodi Harari, ako ste nešto ukrali, svesni ste svog postupka i njegovih posledica po vašu žrtvu. Ali u današnje vreme krađa može da bude deo neke investicije – čega ne moramo ni biti svesni – u neku veoma profitabilnu, ali neetičnu korporaciju koja uništava životnu srdinu i zapošljava armiju advokata i lobista kako bi se zaštitila od tužbi i pravnih regulativa.
„Kriv sam jer sam ukrao reku?“, pita se Harari, objašnjavajući svoj primer. „Čak i ako sam svestan toga, ja ne znam kako korporacija zarađuje novac. Bili bi mi potrebni meseci, pa možda čak i godine da otkrijem šta se zaista radi sa mojim novcem. A za to vreme mogu biti kriv za veliki broj zločina, o kojima neću znati ništa.“
Problem je, smatra autor, u razumevanju „ekstremno komplikovanog lanca uzroka i posledice“ u svetu. „Strahujem da homo sapiens jednostavno nije sposoban za to. Stvorili smo svet koji je toliko komplikovan da više ni sami nismo u stanju da shvatimo šta se zapravo događa.“
Izvor: nytimes.com
Prevod: Maja Horvat
Biće zastrašujuće, ako verujete na reč Juvalu Noi Harariju, izraelskom istoričaru i autoru knjiga „Sapiens“ i „Homo Deus“, hrabrim delima koja nude uvid u kratku istoriju čovečanstva i prognozu onoga što nas čeka: doba algoritama i tehnologije zahvaljujući kojoj ćemo se transformisati u „superljude“ sa bogolikim osobinama.
Na jednoj tribini u organizaciji „Njujork Tajmsa“ i „How To“ akademije, Harari je sa publikom podelio svoja predviđanja i dao intervju kolumnisti „Tajmsa“, Tomasu L. Fridmanu. Ljudi su, upozorava, „stvorili toliko komplikovan svet da više ne možemo da razlučimo šta se događa“. Prenosimo vam najbolje delove intervjua.
Veštačka inteligencija i automatizacija će stvoriti „globalnu klasu beskorisnih“
Kao što je industrijska revolucija stvorila radničku klasu, automatizacija će stvoriti „globalnu klasu beskorisnih“, kaže gospodin Harari, a politička i društvena istorija narednih decenija će biti obeležena nadama i strahovima ove novonastale klase. Inovativne tehnologije, koje su donele neverovatan progres, mogle bi da se pokažu kao katastrofalne, ako izmaknu kontroli.
„Svaka tehnoligija ima dobar i loš potencijal“, rekao je. „Nuklearni rat je, očigledno, nešto stravično. Niko ga ne želi. Pitanje je kako ga sprečiti. Sa inovativnim tehnologijama opasnost je daleko veća jer se mnogostruko uvećava njihov potencijal. Postoje sile koje nas guraju da sve brže razvijamo ove inovativne tehnologije i veoma je teško unapred predvideti kakve će biti posledice, u smislu zajednice, u smislu međuljudskih odnosa i u političkom smislu.“
Nove tehnologije će ukinuti demokratiju, pa čak i naš osećaj za nas same
Kombinacija biotehnologija i informatičkih tehnologija mogla bi da dostigne tačku na kojoj se kreiraju sistemi i algoritmi koji nas razumeju bolje nego što razumemo sami sebe.
„Jednom kada se pojavi nešto spoljašnje što vas razume bolje nego što razumete sami sebe, liberalna demokratija, kakvu znamo iz prošlog veka i nešto duže, osuđena je na propast“, predviđa gospodin Harari.
„Liberalna demokratija se oslanja na osećanja ljudi, i mogla je da funkcioniše dok god nije postojao niko ko razume vaša osećanja bolje od vas – ili vaše majke“, rekao je. „Ali, ukoliko postoji algoritam koji vas poznaje bolje od rođene majke, a vi čak niste ni svesni toga, onda liberalna demokratija postaje emocionalna lutkarska predstava“, dodao je. „Šta se događa ako je vaše srce strani agent, dvostruki agent u službi nekog drugog, koji zna kako da vas pogodi u živac, ko zna kako da vas razbesni, kako da vas ohrabri, kako da vas razveseli? Ovo je pretnja koju danas počinjemo da primećujemo, na primer, na izborima i referendumima.
Tehnologija postaje novo oruđe za diskriminaciju – i to ne protiv manjinskih grupa, već protiv pojedinaca
U XX veku, diskriminisane su čitave grupe na osnovu različitih predrasuda. To je, međutim, bilo moguće ispraviti, jer te predrasude nisu bile istinite, a žrtve su mogle da se udruže i preduzmu određene političke aktivnosti. Ali u godinama i decenijama koje su pred nama, Harari kaže, „suočićemo se sa individualnom diskriminacijom, koja bi mogla biti zasnovana na realnoj proceni vaše ličnosti.“
Algoritmi, u službi neke kompanije, na osnovu analize vašeg profila na društvenim mrežama i vaše DNK, kao i na osnovu provere vaših školskih svedočanstava i profesionalnog učinka, mogu da formiraju vrlo preciznu sliku o tome ko ste i kakvi ste. „Nećete moći da se borite protiv ove vrste diskriminacije, najpre zato što ste sami u tome“, kaže Harari. „Oni ne vrše diskriminaciju protiv vas zato što ste Jevrejin ili homoseksualac, već zato što ste vi – vi. A najgore je to što će to biti istina. Možda zvuči smešno, ali, u stvari je strašno.“
Vreme se „ubrzava“
Bili su potrebni vekovi, pa čak i hiljade godina, da počnemo da ubiremo plodove odluka koje su donosili naši preci, na primer, uzgajanje pšenice koje je dovelo do poljoprivredne revolucije. Ali više nije tako.
„Vreme se ubrzava“, kaže gospodin Harari. Dugoročni ciljevi se više neće definisati na nivou vekova ili milenijuma – već na nivou dve decenije. „Po prvi put u istoriji mi nemamo nikakvu ideju o tome kako će ljudsko društvo izgledati u naredne dve decenije“, rekao je.
„Nalazimo se u istorijskoj situaciji bez presedana, u smislu da niko ne zna ništa o tome kako će svet izgledati za 20 ili 30 godina. I to ne samo u smislu geopolitike, nego čak ni kad je reč o tržištu poslova, o tome kakve će društvene veštine biti potrebne, kako će izgledati porodična struktura, kako će izgledati odnosi međi polovima. To znači da prvi put u istoriji nemamo nikakvu ideju čemu da učimo decu u školama.“
Lideri se fokusiraju na prošlost jer nemaju smislenu viziju budućnosti
Lideri i političke partije još uvek su zaglavljeni u XX veku, u ideološkim borbama između desnice i levice – kapitalisti protiv socijalista. Oni čak nemaju ni realistične ideje o tome kako će tržište poslova izgledati kroz dve decenije, kaže Harari, „zato što nisu u stanju da vide“.
„Umesto da formulišu smislenu viziju o tome gde će biti čovečanstvo 2050, oni se bave prepakivanjem nostalgičnih fantazija o prošlosti“, rekao je. „I kao da postoji neka vrsta takmičenja – ko može da se vrati dalje u prošlost. Tramp želi da se vrati u pedesete godine prošlog veka; Putin, u suštini, želi da se vrati u carsku Rusiju, a imamo i Islamsku državu koja želi da se vrati u sedmi vek na arabijskom poluostrvu. Izrael – oni su pobedili. Oni žele da se vrate unazad 2500 godina, u biblijsko vreme, tako da mi pobeđujemo. Mi imamo najdugoročniju nazadnu viziju.“
Ne postoji predodređena istorija
„Trenutno doživljavamo propadanje poslednje iluzije o neizbežnosti“, rekao je. Devedesete godine su bile preplavljene idejama o kraju istorije, o tome da je poslednja velika ideološka bitka XX veka završena pobedom liberalne demokratije i tržišnog kapitalizma.
To sada deluje neverovatno naivno, kaže Harari. „Trenutak u kojem se sada nalazimo je trenutak krajnjeg razočaranja i zbunjenosti, jer ljudi nemaju nikakvu ideju u kom pravcu će se stvari dalje odvijati. Vrlo je važno da budemo svesni loših strana, opasnosti koje sa sobom nose nove tehnologije. Korporacije, inženjeri, ljudi u laboratorijama ‒ svi oni se, prirodno, fokusiraju na ogromnu korist koju nam ove tehnologije mogu doneti, a na istoričarima, filozofima i naučnicima iz oblasti društvenih nauka je da razmišljaju o tome šta može da pođe po zlu.“
U složenom, međusobno povezanom svetu, neophodno je redefinisati moralnost
„Da biste postupali ispravno, nije dovoljno da postupate u skladu sa vrlinom“, kaže Harari. „Morate da razumete lanac uzroka i posledice.“
U savremenom svetu, krađa, na primer, postaje nešto strašno komplikovano. U prošlosti, u biblijskim vremenima, navodi Harari, ako ste nešto ukrali, svesni ste svog postupka i njegovih posledica po vašu žrtvu. Ali u današnje vreme krađa može da bude deo neke investicije – čega ne moramo ni biti svesni – u neku veoma profitabilnu, ali neetičnu korporaciju koja uništava životnu srdinu i zapošljava armiju advokata i lobista kako bi se zaštitila od tužbi i pravnih regulativa.
„Kriv sam jer sam ukrao reku?“, pita se Harari, objašnjavajući svoj primer. „Čak i ako sam svestan toga, ja ne znam kako korporacija zarađuje novac. Bili bi mi potrebni meseci, pa možda čak i godine da otkrijem šta se zaista radi sa mojim novcem. A za to vreme mogu biti kriv za veliki broj zločina, o kojima neću znati ništa.“
Problem je, smatra autor, u razumevanju „ekstremno komplikovanog lanca uzroka i posledice“ u svetu. „Strahujem da homo sapiens jednostavno nije sposoban za to. Stvorili smo svet koji je toliko komplikovan da više ni sami nismo u stanju da shvatimo šta se zapravo događa.“
Izvor: nytimes.com
Prevod: Maja Horvat
