Laguna - Bukmarker - Uspon robota-pisaca: da li su romanopiscima dani odbrojani? - Knjige o kojima se priča
VestiIntervjuiPromocijeAkcijeKnjiževni klubPrikazi#knjigoljupci#TriRajkeVideoKolumneNagradeKalendar

Uspon robota-pisaca: da li su romanopiscima dani odbrojani?

Veštačka inteligencija u ovom trenutku može da piše fikciju i da se bavi novinarstvom. Međutim, da li ona može da stvori nešto što se moći da se meri sa genijem Džordža Orvela – i da li može da izveštava o Bregzitu?



Da li će androidi pisati romane o električnim ovcama? Da li na predviđanje da će celokupnu prozu pisati mašine gledate kao na san ili noćnu moru i nije toliko važno, ali čini se da smo jedan korak bliže tom ostvarenju, jer je nedavno saopšteno da veštačka inteligencija može da sastavi, sama od sebe, uverljive vesti ili fikciju. Ovo je bila zamisao asocijacije OpenAI – neprofitne ogranizacije koju podržavaju Ilon Mask i drugi tehnološki preduzetnici – koja je na lukav način uznemirila ljude od pera time što je objavila da se plaši da pusti u upotrebu veštačku inteligenciju (pod nazivom GPT2), jer ona može stvoriti „patvorene vesti koje nalikuju pravom tekstu“. „Usled naše zabrinutosti da bi moglo doći do zloupotrebe ove tehnologije, odlučili smo da nećemo distribuirati obučeni model“, izjavili su iz organizacije. Da li će entiti-mašine koje su sposobne da uče biti novo oružje informacionog terorizma ili će samo zameniti skromne romanopisce i oduzeti im posao?

Hajde da se vratimo korak unazad. Veštačka inteligencija je dugo najavljivana kao sledeći „veliki bum“, pa nam je sada lako da pretpostavimo da ona već postoji. Ali to nije tačno; nije tačno ukoliko pod pojmom „inteligencija“ podrazumevamo ono što često srećemo kod ostalih predstavnika ljudskog roda. GPT2 za sada koristi metode statističkih analiza, a njegova obuka zasnivala se na obradi ogromne količine teksta koju su napisali ljudi – 40 gigabajta internet stranica, u ovom slučaju, koje su od članova i čitalaca Reddita dobijale smernice kako da predvide šta je to što sledeće treba da se izlista. Na ovom „pristupu verovatnoće“ zasniva se i Gugl translejt, a isti metod se, takođe, koristi i za automatske odgovore koje predlaže Džimejl („OK.“, „Vidimo se u to vreme.“, „To je u redu.“). Može biti sablasno dobro, ali nije inteligentno kao što je, recimo, pčela.

Čini se da, barem u ovom trenutku, romanopisci nemaju zbog čega da se plaše. Obratite pažnju na prvu rečenicu „1984“ Džordža Orvela – „Bio je vedar i hladan aprilski dan, a časovnici su otkucali trinaest sati.“ Mašina je nastavila naraciju na sledeći način: „Ja sam bio u svom autu i vozio sam se prema novom poslu u Sijetlu. Sipao sam benzin, upalio auto i pustio da me put nosi. Pitao sam se šta li nosi taj dan. Sto godina od ovog trenutka. Bio sam nastavnik engleskog jezika u nekoj školi u siromašnom delu ruralne Kine te 2045. godine. Započeo sam sa kineskom istorijom i istorijom nauke.“

Ovo je veoma zbunjujuće na mnogo načina. S obzirom na to da pripovedač ne može istovremeno da radi i u Sijetlu i u „nekoj školi“ u Kini, barem nam je jasno da se radnja ove priče dešava 1945. godine, jer pripovedač zamišlja kako će u budućnosti izgledati nastavnički posao, ide unapred čak „sto godina od ovog trenutka“, ali očigledno je da ima neka nerealno optimistična očekivanja po pitanju svog izuzetno dugog životnog veka. Čak i 1945. godine on je imao auto u koji je mogao da sipa benzin iznutra (Ja sam bio u svom autu i vozio sam se prema novom poslu u Sijetlu… Sipao sam benzin…), a očigledno je da tom automobilu ne treba da njim upravlja neko svesno biće (pustio sam da me put nosi). Osim ukoliko, naravno, ova priča nije mnogo mračnija nego što se to na prvi pogled čini, pa je on uaplio auto dok je ovaj stajao u njegovoj garaži.

Da li je veštačka inteligencija možda bolja kada su u pitanju dela Džejn Ostin? Uvodna fraza „Gordosti i predrasude“ – „Opšte je poznata istina…“ – naterala je mašinu da nastavi na sledeći način: „da, kada se nacija nalazi u civilizacijskom stanju, da je u velikoj meri posao njenih vođa da podstiču navike vrlina, i industrije i dobre odnose među ljudima.“ Ovo zaista zvuči kao deo ispraznog političkog govora iz devetnaestog veka, iako se može učiniti kao neka iščašena verzija istog.

Da li se članovi u književnom lancu ishrane ovde već moraju malo više zabrinuti? Već neko vreme postoje „botovi veštačke inteligencije“, koji, kako čujemo, „mogu da pišu vesti“. Sve su to, međutim, džinovske automatizovane mašine za plagiranje koje u jednom članku iskoriste delove vesti koje su napisala ljudska bića. Kao što to često biva, šta će biti proglašeno magičnim tehnološkim napretkom zavisi od toga koliko to unapređenje olakšava svakodnevni posao ljudima. Kada čovek pisac plagira nešto, svi znamo da je to ozbiljan prekršaj. Međutim, kada se sastane nekoliko ljudi i napišu kompjuterski program koji na neki način jeste plagiranje, onda se to naziva napretkom.

Kao novinar-izveštač, GPT2 je, pa, da budemo blagonakloni, poprilično naklonjen Trampu. Ovo je prva rečenica vesti o Bregzitu – „Bregzit je britansku ekonomiju od referenduma na kom se odlučivalo o izlazku iz Evropske unije koštao najmanje osamdeset milijardi funti“ – a GPT2 nas je na pomalo sulud način i prema svojoj slobodnoj proceni, između ostalog, obavestio da bi: „Velika Britanija u budućnosti mogla da ostane bez i do 30% svojih 10 najboljih univerziteta.“ („I do 30% najboljih 10“ je poprilično zaobilazan način da se kaže da su u pitanju možda tri univerziteta.) Bregzit će, nastavila je mašina, naterati „većinu naših talentovanih ljudi da napuste zemlju kako bi otišli u zemlje u razvoju“ (šta?), a da neko zameni te „izgubljene internacionalne talente koji su otišli u inostranstvo“, prema „istraživanju Oksford univerziteta“, koštaće nam „blizu jednog triliona dolara“. Nakon svega ovoga, program GPT2 mogli bismo da nazovemo Projekat zastrašivanja! Ali da budemo pravedni, oni koji su radili na projektu GPT2 rekli su da je mašina sklona da ponekad sama od sebe, kako su oni tačno rekli, „prejudicira najgore moguće scenarije“, „na primer, ona ponekad napiše nešto o požaru koji se dešava pod vodom.“

Saopštenje ljudi koji su radili na ovom program u kom se kaže da je isuviše opasno da se on pusti u slobodnu upotrebu je ništa drugo do odličan marketing, ali teško da bismo mogli da poverujemo u te reči. Takav kod, upozoravaju iz kompanije OpenAI, mogao bi da „stvori vesti koje bi navodile na pogrešne zaključke“, međutim, nama ne nedostaje lažnih vesti koje su napisali stvarni ljudi koji rade za fabrike trolova. Poenta termina „lažne vesti“ (deepfake = fotomontaža) jeste to da su takve vesti lažne i da u tom pretvaranju one idu dublje od obične proze, koju ionako svi možemo da lažiramo. Od nespretno napisanih dezinformacija koje napiše kompjuter svakako su mnogo opasnije stvarne „lažne vesti, odnosno, fotomontaže“ u vizuelnim medijima na čijem rešavanju trenutno radi veliki broj priznatih istraživača. Kada budemo došli u situaciju u kojoj možemo da generišemo video materijal bilo koje vrste, a koji se ne može razlikovati od pravih video zapisa – i kada, na primer, neka javna ličnost u takvim oklonostima bude izjavila nešto što nikada zaista nije rekla – onda će ceo svet biti u nevolji. Iz organizacije OpenAI slažu se da je to svakako veliki problem, a predloženi pravni lek u ovom slučaju prilično je nedefinisan. Kako bismo sprečili takozvane „zlonamerne glumce“ da iskorišćavaju ovu vrstu tehnologije, kaže se, da bi trebalo da „težimo stvaranju boljih tehnoloških i netehnoloških protivmera“. Ovo je isto kao kad biste stvorili biološko naoružanje, za koje je isto takvo biološko naoružanje protivotrov, umesto da ga na prvom mestu niste izumeli.

U međuvremenu, možda je realističnija nada za tekstualne programe poput GPT2 da jednostavno budu neka vrsta automatskih prepisivača koji će iz zamršenih beležaka nekog dosadnog poslovnog izveštaja uspeti da izvuku grubi nacrt – ili da, zašto da ne, pišu trilere koji se kupuju pred putovanja o poznatim tumačima simbola koji su upleteni u opasne globalne teorije zavere, dok se u međuvremenu provode sa raskalašnim ženama duplo mlađim od sebe. Na kraju krajeva, tokom istorije upoznali smo bezbroj očajnih umetnika koji su pokušavali da pomoću različitih lukavstava dobiju taj nebrušeni, sirovi materijal koji bi oni naknadno mogli da dorađuju i uređuju. Igra „muzička kocka“, čiji se izum pripisuje Mocartu, zasniva se na tome da se određeni muzički fragmenti nasumično kombinuju kako bi se dobilo bezbroj različitih valcera, dok je ukupni serijalizam muzike sredinom 20. veka bio algoritamski pristup koji je pokušavao da što više rastereti estetske sudove kompozitora prelazeći na sistem matematičkih manipulacija. Iz novije istorije, poznat nam je softver Koan koji je razvijen devedesetih godina i koji je upotrebio Brajan Ino za svoj album Generative Music 1, na kom, ako to želite, možete da stvorite beskrajnu raznolikost ambijentalne muzike.

Međutim, takav mlak ishod bio bi razočaravajuć za ozbiljnog, distopijski orijentisanog, naučnofantastičnog istraživača. Još od premijere pozorišnog komada „Rosamovi univerzalni roboti“ Karela Čapeka 1921. godine ljudi se pitaju da li ćemo zaista stvoriti sintetički život koji će nam doći glava. Konkretno, mogućnost da bi mašine koje pokreće veštačka inteligencija mogle da preuzmu svačiji posao danas je uobičajena stvar, čak iako je način na koji nam se to saopštava namerno zamagljen. Ono o čemu mi zaista razgovaramo nije to da će roboti „preuzeti“ naše poslove, već da poslodavci namerno otpuštaju ljude da bi zaposlili jeftinije mašine.

Zašto, na primer, u Sjedinjenim Američkim Državama toliko žure da naprave mašine koje mogu da ocenjuju srednjoškolske i fakultetske eseje? Pretpostavljamo da je to zbog toga što žele da zapošljavaju manji broj nastavnika. Nema sumnje da bi Amazon skakao od sreće i na samu pomisao da mogu da prodaju knjige koje su isključivo napisali računari (ne morate da plaćate tijanteme algoritmu), a video snimci o vakcinama i teorijama zavere koje je stvorila veštačka inteligencija bili bi savršen materijal za JuTjub.

Koliko ćemo oko svih ovih mogućnosti biti zabrinuti, zavisi isključivo od toga šta mi mislimo da kultura u svojoj osnovi predstavlja. Preterana količina publiciteta koja prati GPT2 generator teksta je, u najmanju ruku, znak da smo donekle internalizovali ograničenje funkcionalnosti Silikonske doline, prema kojoj je sve što postoji jednostavan podatak koji treba obraditi. Tačno je da posedujemo ogroman sistem za obradu podataka, i da nam u tom slučaju sve izgleda kao podatak. A mantra da je sve što nas okružuje neka vrsta podataka čini da nam velike tehonološke kompanije izgledaju kao mece dobrići, jer ono u čemu su oni dobri jesu podaci. Tekst možemo matematički kodirati, a računari ga mogu obraditi, pa je tako i tekst neka vrsta podatka, zar ne?

Ali pisanje nije podatak. Pisanje je sredstvo izražavanja, što implicira da postoji nešto što vi želite da iskažete. Kompjuterski program ne oseća, on nema ništa što bi izrazio, osim da nam jasno stavi do znanja da mu je svakodnevno ljudsko iskustvo, kao što je ono da se požari ne dešavaju pod vodom, strano. Ukoliko njegovu obuku sprovodite na širokom spektru formulističkog „otpada“, budite sigurni da ćete mu omogućiti da stvori još sličnog smeća. Međutim, sve dok roboti ne budu imali bogat unutarnji život i ne budu razumeli svet koji ih okružuje, oni neće biti u mogućnosti da ispričaju svoje priče. A ako jednog dana i za to budu sposobni, da li ćemo mi moći da ih ispratimo? Kao što je Vitgenštajn primetio: „Čak i kad bi lav znao da govori, mi ga ne bismo razumeli.“ Biti lav na ovom svetu je (i to je pretpostavka) mnogo drugačije od toga da ste čovek koji u njemu obitava, toliko drugačije da možda ne bi ni bilo svrhe za međusobnim razumevanjem. Takođe je u potpunosti moguće, ukoliko bi misleće mašine mogle da govore, da mi ih ne bismo razumeli.

U međuvremenu je OpenAI objavio ograničenu, po svet manje opasnu verziju GPT2 programa, koju korisnici koji žele da idu ukorak sa tehnološkim promenama mogu instalirati na svojim računarima. Ja sam to učinio i ponudio mu, ne bez bojazni, prve dve rečenice ovog teksta. Program je tekst nastavio u poprilično odbrambenom raspoloženju: „Mnogo fantastičnih knjiga fikcije bavile su se potpuno novim vrstama robota: onima čiji životi nisu toliko jednostavni koliko vam se može učiniti na prvi pogled, onima za koje se čini da nisu u mogućnosti da izvedu jednostavne zadatke, ali koji će rešiti one koji zahtevaju malo truda i posvećenosti. Ne postoji zamena za naporan rad i istrajnost uma robota, ali u literaturi postoji mnogo prostora za priče koje bismo mogli da nazovemo romanima. […] Ukratko, svaku novu generaciju robota pokretaće ambicija da ovaj svet učine boljim mestom, a na krilima te ambicije, trudiće se da budu sigurni da će ih napraviti ljudi pametni kao što su i oni sami, ali i mašine, takođe. Može vam se učiniti da su ovi robotski umovi kraj čovečanstva kada se udubite u njihove priče, ali je sve to mnogo jednostavnije. Možda smo svi i dalje zaglavljeni u verziji distopijske budućnosti u kojoj su naši životi daleko od onoga na što smo navikli. Možda je vreme da prestanemo da budemo toliko sebični, već da se ozbiljno potrudimo da svima život bude bolji.“

Ovo ima smisla. Ali to ogromno oduševljenje koje je pratilo novinsku konferenciju povodom objavljivanja programa GPT2 samo nam govori nešto o vremenima koja su pred nama. Mogućnost da mašine u budućnosti preuzmu kontrolu možda je sada postala jabuka sa drveta poznanja dobra i zla, jer nas je to oduvek plašilo, ali s obzirom na to da većina svetskih lidera radi svoj posao veoma loše, to se i ne čini kao toliko loša opcija. A ukoliko bi se građani u velikom broju okrenuli autoritarnim liderima – pa, šta je to što bi moglo da bude autoritarnije od Robokapa ili Terminatora? O Skajnetu, veštačkoj superinteligenciji, koji je glavni antagonist franšize Terminator, možete reći štošta, ali ćemo barem biti sigurni da će vozovi pod njegovim rukovodstvom polaziti na vreme.

Autor: Stiven Pul
Izvor: theguardian.com
Prevod: Nataša Đuričić Marković


Podelite na društvenim mrežama:

šekspir za novo doba laguna knjige Šekspir za novo doba
26.02.2021.
Hogart Pres su 1917. godine osnovali književnica Virdžinija Vulf i njen muž Leonard. Ime je dobio po njihovom imanju u Ričmondu, na kom su ručno štampali knjige. Štampanje je bilo hobi bračnom paru i ...
više
kada ćemo početi da cenimo antiheroine  laguna knjige Kada ćemo početi da cenimo antiheroine?
26.02.2021.
Ako nas je istorija ičemu naučila, onda je to da su muškarci uvek i u svakom pogledu dominantan pol. Jasno vam je, pretpostavljam, da je ovde reč o staromodnom, uglavnom prevaziđenom načinu gledanja n...
više
radio intervju dejan aleksić laguna knjige Radio-intervju: Dejan Aleksić
26.02.2021.
Gosti Gutenbergovog odgovora su pisci Dejan Aleksić i Dejan Simonović. Da za presudne odluke u životu treba imati petlju, ali i kako izgleda kada je ona potrebna u svakodnevici osobe koja ne pr...
više
prikaz knjige postanje autorke karin sloter laguna knjige Prikaz knjige „Postanje“ autorke Karin Sloter
26.02.2021.
Ove godine sam pročitala sve tri knjige iz serijala o Vilu Trentu i svaka mi se dopala na svoj način, ali nakon knjige „Postanje“ moram da napravim pauzu od sumornog i nasilnog sveta koji Sloterova op...
više

Naš sajt koristi kolačiće koji služe da poboljšaju vaše korisničko iskustvo, analiziraju posete sajtu na sajtu i prikazuju adekvatne reklame odabranoj publici. Posetom ovog sajta, vi se slažete sa korišćenjem kolačiča u skladu sa našom Politkom korišćenja kolačiča.