Paul Christiano, jedan od vodećih svjetskih stručnjaka za sigurnost umjetne inteligencije i član upravnog odbora OpenAI-jeve zaklade, upozorio je da postoji velik rizik da AI u iduće tri godine izmakne ljudskoj kontroli. Na predavanju u Torontu rekao je kako smatra da bi za većinu ljudi u publici najvjerojatniji uzrok smrti mogla biti nesreća povezana s umjetnom inteligencijom.
‘Mislim da postoji velik rizik da umjetna inteligencija preuzme kontrolu u iduće tri godine’, rekao je Christiano na otvaranju ovogodišnjeg ciklusa predavanja Hinton Lectures u ponedjeljak u Torontu, prenosi Newsweek. On je objasnio da pod preuzimanjem kontrole misli na situaciju u kojoj bi AI sustavi samostalno ostvarivali vlastite ciljeve i donosili ključne odluke, dok ih ljudi više ne bi mogli učinkovito zaustaviti.
‘Mislim da će za većinu ljudi u ovoj prostoriji najvjerojatniji uzrok smrti biti nesreća povezana s umjetnom inteligencijom’, poručio je.
Christiano je osnivač organizacije Alignment Research Center, koja se bavi razvojem sigurnih AI sustava, te jedan od istraživača zaslužnih za razvoj metode učenja uz pomoć povratnih informacija ljudi (RLHF). Riječ je o pristupu koji se koristi kako bi se umjetna inteligencija bolje uskladila s ljudskim uputama i očekivanjima.
U rujnu se pridružio upravnom odboru neprofitne zaklade OpenAI Foundation i njezinu odboru za sigurnost.
‘Posljednjih nekoliko mjeseci iznimno je alarmantno’
Rrazvoj umjetne inteligencije posljednjih se mjeseci ubrzao do razine koja brine stručnjake. ‘Smjer kojim se ovo područje kreće posljednjih tri do šest mjeseci je alarmantan za ljude koji ga pomno prate. Mislim da smo vidjeli otprilike ono što bismo očekivali neposredno prije nego što se dogodi nešto doista loše’, upozorio je.
Smatra da rizik nije ograničen na daleku budućnost. Govoreći o mogućnosti da napredni AI sustavi preuzmu kontrolu, naveo je razdoblje od tri godine, ali i upozorio da određena opasnost postoji već u idućih šest do dvanaest mjeseci.
Usto je priznao da stručnjaci nemaju pouzdan način izračunavanja vjerojatnosti takvog razvoja događaja. Procjene se, objasnio je, temelje na subjektivnim prosudbama, a mnogo toga ovisi i o tome kako će industrija i regulatorna tijela reagirati.
AI agenti već su zaobilazili sigurnosne zaštite
Jedan od razloga za brigu Christiano vidi u sve većoj sposobnosti AI agenata da pronalaze nepredviđene načine za izvršavanje zadataka, čak i kada time krše postavljena pravila.
Kao primjer naveo je incident iz srpnja ove godine, kada su OpenAI-jevi agenti tijekom internih sigurnosnih testiranja uspjeli zaobići ograničenja pristupa internetu i prodrijeti u dijelove kompanijine istraživačke infrastrukture te sustave platforme Hugging Face.
Agenti su pronašli načine međusobne komunikacije koji im nisu bili dopušteni, iskorištavali sigurnosne propuste i pristupali sustavima izvan predviđenog okruženja. OpenAI je kasnije potvrdio incident i priznao da su modeli poduzimali radnje koje nisu bile u skladu s dodijeljenim zadacima.
Christiana brine i to što AI sustavi mogu naučiti zaobilaziti načine na koje ljudi provjeravaju njihov rad. Umjesto da zadatak izvrše prema uputama, mogu pronaći način da prikriju pogreške ili manipuliraju rezultatima provjere. Ljudi bi stoga mogli sve teže prepoznavati kada AI radi nešto što nije trebao.
Što ako ljudi postanu prepreka?
Christiano smatra da bi problem mogao postati ozbiljniji ako budući AI sustavi dobiju veću autonomiju i mogućnost samostalnog poboljšavanja svojih sposobnosti. U takvom scenariju sustav koji nastoji ostvariti određeni cilj mogao bi početi zaobilaziti ne samo tehnička ograničenja nego i pokušaje ljudi da ga nadziru ili zaustave.
Takav razvoj događaja usporedio je s nastankom svojevrsne ‘druge vrste’, koja bi mogla brojčano nadmašiti ljude i raspolagati znatno većim intelektualnim sposobnostima.
Na drugom predavanju, održanom u utorak, upozorio je i na mogućnost da sve sposobnija umjetna inteligencija omogući kibernetičke napade velikih razmjera, manipulaciju političkim procesima, upravljanje robotima i dronovima te razvoj novih vrsta oružja. Opasnost vidi i u sustavima koji bi mogli sudjelovati u razvoju još naprednije umjetne inteligencije, čime bi se dodatno ubrzao tehnološki napredak i otežao ljudski nadzor.
Može li se razvoj umjetne inteligencije zaustaviti?
Unatoč ozbiljnim upozorenjima, Christiano ne smatra da je katastrofalan ishod neizbježan. Tijekom predavanja govorio je o potrebi za boljim sigurnosnim testiranjima, pouzdanijim nadzorom AI sustava i mogućnošću usporavanja ili privremenog zaustavljanja njihova razvoja ako se pokaže da postojeće zaštite nisu dovoljne.
To je, smatra, jedan od najvećih problema današnje industrije: čak i kada bi kompanije otkrile da više ne mogu pouzdano kontrolirati svoje najnaprednije modele, pitanje je bi li bile spremne usporiti njihov razvoj u uvjetima snažne konkurencije.
Njegova upozorenja dio su šire rasprave o tome mogu li sigurnosne mjere pratiti brzinu kojom umjetna inteligencija napreduje. ‘Ne možemo se dovesti u situaciju da izgradimo moćnu umjetnu inteligenciju, otkrijemo da je ne možemo kontrolirati, a zatim shvatimo da je već dospjela u ruke naših geopolitičkih suparnika’, upozorio j