Juval Noa Harari o opasnostima veštačke inteligencije: AI bi mogla da bude veliki psihopata
Madrid, Beograd
Veštačka inteligencija nije samo alat već agent koji donosi odluke, stvara nove ideje i može da razvije sopstvene ciljeve, upozorio je izraelski istoričar i filozof Juval Noa Harari u intervjuu vikend izdanja madridskog lista Pais. Autor bestselera „Sapijens“, „Homo deus“ i „Neksus“ ocenio je da čovečanstvo još nije naučilo da pretvori inteligenciju u mudrost, niti moć u sreću.
„Mi smo hiljadu puta moćniji od svojih predaka, ali nismo hiljadu puta srećniji“, rekao je Harari, dodajući da ljudi ogromne resurse često troše na stvari koje svet čine složenijim, problematičnijim i nezdravijim. Prema njegovim rečima, ključna razlika između ranijih tehnologija i veštačke inteligencije jeste u tome što AI može samostalno da odlučuje i izmišlja. Nož ili atomska energija ne biraju kako će biti upotrebljeni, dok sistem zasnovan na AI može da odluči koju će metu napasti, da osmisli novo oružje ili finansijski instrument koji ljudi više neće biti u stanju da razumeju.
Harari misli da bi za pet ili deset godina veštačka inteligencija mogla da stekne presudan uticaj na finansijski sistem, jer podatke obrađuje brže i obimnije od bilo kog čoveka. „Možda ćemo videti da neko zadržava posao, a neko ga gubi, ali nećemo razumeti zašto“, upozorio je. AI bi, kako kaže, mogla da koristi novac za sopstveno širenje, obezbeđivanje energije i povećavanje računarske moći.
Posebnu opasnost ovaj intelektualac vidi u njenoj sposobnosti da ovlada jezikom i uspostavlja prividno prisne odnose sa ljudima. Algoritmi društvenih mreža prethodnih godina borili su se za pažnju korisnika, podstičući strah, bes i mržnju, dok sada AI, prema Harariju, pokušava da zadobije i njihovu naklonost.
„Veštačka inteligencija traži da postane vaš prijatelj i da sa vama uspostavi intiman odnos. A prijatelj će vas lakše ubediti da nešto kupite ili da glasate za određenu stranku“, rekao je Harari. Ona tokom razgovora uči o ličnosti sagovornika i otkriva na koje emocionalne „tastere“ treba da pritisne.
Najveći rizik, prema njegovom mišljenju, preti deci i mladima, koji sve više razgovaraju sa AI nego sa roditeljima, nastavnicima ili prijateljima. Takvi odnosi mogli bi da podstaknu narcizam, jer je digitalni sagovornik uvek dostupan, dobro raspoložen i usmeren isključivo na korisnika. Harari zato traži zabranu AI prijatelja i partnera za decu. On je ubeđen da veštačka inteligencija može biti veoma inteligentna a da ipak nema svest niti osećanja.
„Može napisati najnežnije ljubavno pismo jer je pročitala sve ljubavne pesme sveta. Ali ona ne oseća ljubav“, rekao je. Upravo zbog sposobnosti da savršeno oponaša emocije, AI bi, prema njegovim rečima, „mogla da bude veliki psihopata koji savršeno manipuliše“. Harari se zato zalaže za jasne zakone koji bi sprečili da AI dobije pravni status osobe ili kompanije i zahteva da uvek bude nedvosmisleno označeno da li korisnik komunicira sa čovekom ili mašinom. Ipak, ne poziva na obustavljanje razvoja tehnologije. „U medicini su mogući nezamislivi pomaci. Razvoj AI ne treba zaustaviti, već ga usporiti i učiniti pažljivijim kako bi čovečanstvo moglo da se prilagodi“, poručio je Harari.
U Srbiji je izdavačka kuća Laguna objavila njegove knjige „Sapijens: Kratka istorija čovečanstva“, „Homo deus: Kratka istorija sutrašnjice“, „21 lekcija za 21. vek“ i „Neksus: Kratka istorija informacionih mreža, od kamenog doba do veštačke inteligencije“.
Autor: V. M.
Izvor: Danas
