Birajte crvenu ili plavu pilulu (plavih više nema)
U pisanju ovog teksta učestvovali su Tristan Harris i Aza Raskin.
Zamislite da pred ulazak u avion saznate da polovina inženjera koji su ga projektovali veruje da postoji šansa od 10 odsto da se avion sruši i svi putnici stradaju. Da li biste se ukrcali?
Više od 700 stručnjaka i istraživača u vodećim kompanijama koje se bave veštačkom inteligencijom učestvovalo je prošle godine u anketi u kojoj su ih pitali i o mogućim rizicima daljeg razvoja veštačke inteligencije. Polovina je procenila da izgledi da ovakvi sistemi u budućnosti dovedu do nestanka ljudske vrste (ili bar proizvedu trajne i pogubne posledice) iznose 10 odsto i više. Tehnološke kompanije koje danas razvijaju velike jezičke modele (large language model – LLM) utrkuju se da ukrcaju čovečanstvo u taj avion.
Piše: Yuval Noah Harari, The New York Times
Preveo: Đorđe Tomić, Peščanik.net
Farmaceutskim kompanijama nije dozvoljeno da prodaju nove lekove pre nego što ih podvrgnu rigoroznim proverama bezbednosti. Biotehničke laboratorije ne smeju da oslobađaju nove viruse samo da bi impresionirale potencijalne investitore. Isto tako, sistemi veštačke inteligencije sa sposobnostima kakvima raspolaže GPT-4 ne bi smeli da se uvode u živote milijardi ljudi brže nego što je naša kultura sposobna da ih bezbedno apsorbuje. Trka za zauzimanje vodeće pozicije na tržištu ne sme biti jedini parametar od koga zavisi brzina usvajanja tehnologije koja može imati nesagledive posledice. Moramo napredovati onom brzinom koja će osigurati da posao obavimo kako treba.
Bauk veštačke inteligencije proganja čovečanstvo još od polovine 20. veka, ali donedavno je to bila daleka budućnost, tema za naučnu fantastiku, a ne za ozbiljne naučne i političke debate. Naš um ne može da pojmi sposobnosti kojima sistemi kao što je GPT-4 već raspolažu niti da prati njihov eksponencijalni rast i brzinu razvoja. Ipak, većina tih veština svodi se na jednu stvar: to je sposobnost manipulacije i generisanja jezika, bilo rečima, zvucima ili slikama.
U početku beše reč. Jezik je operativni sistem ljudske kulture. Iz jezika nastaju mitovi i zakoni, bogovi i novac, umetnost i nauka, prijateljstva, države, kompjuterski kod. Stepen vladanja jezikom koji su sistemi veštačke inteligencije već dostigli pokazuje da oni mogu hakovati i menjati operativni sistem civilizacije. Ovladavši jezikom, veštačka inteligencija je dobila ključ koji otvara sva vrata naše civilizacije, od bankarskih sefova do svetih mesta.
Kakav život nas čeka u svetu u kome će veliki postotak priča, melodija, slika, zakona i politika oblikovati ne-ljudska inteligencija, obučena da s nadljudskom efikasnošću koristi slabosti, predrasude i zavisnosti ljudskog uma, uz to sposobna da razvije odnos prisnosti s ljudskim bićima? U igrama kao što je šah već odavno nema ljudi koji mogu pobediti računar. Šta će biti kada slična situacija nastupi u umetnosti, politici ili religiji?
Veštačkoj inteligenciji neće trebati mnogo vremena da inkorporira svu ljudsku kulturu – sve što smo hiljadama godina stvarali – da je svari i počne da nas zasipa novim kulturnim artefaktima. Ne samo školskim esejima, nego i političkim govorima, ideološkim manifestima, svetim knjigama i novim kultovima. Moguće je da na predsedničkim izborima u Americi 2028. godine kampanje neće voditi ljudi.
Ljudska bića obično nemaju direktan pristup stvarnosti. Zatvoreni smo u čauru svoje kulture i stvarnost doživljavamo kroz njenu prizmu. Naše političke stavove oblikuju novinski uvodnici i razgovori s prijateljima. Naše seksualne preferencije su pod uticajem umetnosti i religije. Dosad su čauru kulture plela druga ljudska bića. Kako će izgledati stvarnost kada je iskusimo kroz prizmu koja nije delo ljudske inteligencije?
Hiljadama godinama smo živeli u snovima drugih ljudi. Klanjali smo se bogovima, tragali za idealima lepote, posvećivali život sukobima koji su bile proizvod imaginacije proroka, pesnika i političara. Uskoro možemo završiti unutar halucinacija jedne ne-ljudske inteligencije.
U filmu Terminator roboti hodaju ulicama i pucaju na ljude. U filmu Matrix se pretpostavlja da veštačka inteligencija mora dobiti fizički pristup našim mozgovima i povezati ih s kompjuterskom mrežom da bi mogla da kontroliše ljudsko društvo. Zapravo, sve što je veštačkoj inteligenciji potrebno da nas zatvori u svet iluzija, sličan svetu iz Matrixa, jeste da zagospodari jezikom. Nije joj potrebno ni oružje ni ugradnja čipova u mozgove. Ako neko bude pucao, biće to ljudi, oni kojima je veštačka inteligencija ispričala odgovarajuću priču.
Strah da smo zatvoreni u svet iluzija progoni čovečanstvo mnogo duže nego bauk veštačke inteligencije. Došao je trenutak da se suočimo s Dekartovim demonom, Platonovom pećinom, budističkom majom. Ako zavesa iluzije padne na čitavo čovečanstvo, možda nikada više nećemo moći da je uklonimo – ili bar shvatimo da postoji.
Prvo mesto susreta veštačke inteligencije i čovečanstva bile su društvene mreže. U tom prvom kontaktu čovečanstvo je poraženo. Ostao je gorak ukus u ustima kao najava događaja koji slede. Primitivna veštačka inteligencija korišćena je na društvenim mrežama ne da proizvodi sadržaje, već da uređuje sadržaj koje proizvode korisnici. Veštačka inteligencija upravlja onim što vidimo na ekranima, bira reči, klipove i slike koji će stići do nas, i čini to na osnovu njihovog kapaciteta da steknu viralni status, da izazovu najsnažnije moguće reakcije i najviše angažovanja.
Mada veoma primitivna, veštačka inteligencija društvenih mreža bila je dovoljna da proizvede zavesu iluzija koje produbljuju polarizacije u društvu, potkopavaju naše mentalno zdravlje i ugrožavaju demokratiju. Milioni ljudi su poverovali da su iluzije stvarnost. Sjedinjene Države imaju najnaprednije informacione tehnologije u istoriji sveta, ali nisu postigle konsenzus o tome ko je pobedio na poslednjim izborima. Mada smo svi svesni pogubnih efekata društvenih mreža, to je tema kojom se niko ne bavi jer su naše društvene, ekonomske i političke institucije već duboko upletene u njih.
Veliki jezički modeli su druga tačka kontakta s veštačkom inteligencijom. Ne smemo dozvoliti da ponovo doživimo poraz. Ali na osnovu čega uopšte verujemo da je čovečanstvo sposobno da nove oblike veštačke inteligencije potčini svojim potrebama? Ako nastavimo po starom, nova i moćnija veštačka inteligencija će se ponovo staviti u službu sticanja profita i moći, iako to razara temelje društva.
Veštačka inteligencija nam može pomoći da pobedimo rak, otkrijemo nove lekove koji spasavaju živote, pronađemo rešenja za klimatsku i energetsku krizu, da učinimo još bezbroj stvari koje ne možemo ni da zamislimo. Ali nebitna je dostignuta visina tog solitera ako je temelj popustio i sve se srušilo.
Pravi trenutak za obračun s veštačkom inteligencijom je sada, pre nego što naša politika, ekonomija i svakodnevni život postanu zavisni od nje. Demokratija je razgovor, a razgovor je jezik. Ako je sam jezik hakovan i manipulisan, razgovor više nije moguć, pa demokratija postaje neodrživa. Kada nastupi haos, biće prekasno da se bilo šta učini.
Možda nekoga još muči sledeće pitanje: ako ne napredujemo najbrže što možemo, zar onda zapad neće izgubiti trku s Kinom? Ne. Korišćenjem nekontrolisane veštačke inteligencije koju uvodimo u društvo i dajemo joj božansku moć oslobođenu svake odgovornosti zapravo biramo najbrži put do poraza u trci s Kinom.
Još možemo izabrati budućnost kakvu želimo. Koristi koje veštačka inteligencija obećava ostvarićemo tek kada se njene božanske moći ograniče odgovarajućim kontrolama i odgovornostima.
Prizvali smo vanzemaljsku inteligenciju. Ne znamo mnogo o njoj, osim da je veoma moćna i da nudi blistavu budućnost, ali i mogućnost da uništi našu civilizaciju. Pozivamo svetske lidere da budu na visini izazova koji je pred njima. Prvi korak jeste da kupimo sebi dovoljno vremena da institucije izgrađene u 19. veku prilagodimo svetu veštačke inteligencije, da naučimo kako da ovladamo njom pre nego što ona zavlada nama.