Rasprava o veštačkoj inteligenciji (VI) poslednjih nedelja više se ne vodi samo oko toga koji model bolje programira, rešava matematičke zadatke ili odgovara na opšte upite. Pitanje se pomerilo mnogo dalje: koliko brzo treba razvijati sisteme čije ponašanje ni njihovi tvorci ne mogu uvek pouzdano da predvide.
Neobično je što najglasnija upozorenja ne dolaze prvenstveno od protivnika tehnologije. Dolaze od ljudi koji su godinama radili upravo na njenom razvoju, uključujući istraživače OpenAI, Anthropica i jednog od pionira savremenih neuronskih mreža Džefrija Hintona.
Istovremeno, postoji potpuno drugačiji pogled. Predsednik SAD Donald Tramp smatra da bi usporavanje razvoja ugrozilo američku prednost nad Kinom, dok Peking upozorava da bi širenje straha i tehnološka konfrontacija samo otežali međunarodno upravljanje veštačkom inteligencijom.
Između ta dva pristupa nalazi se tehnologija koja se razvija brže nego pre nekoliko godina i niz događaja koji su raspravu o bezbednosti iz laboratorija preneli u Kongres i politički vrh.
Hinton: problem nije današnja VI, već ono što dolazi
Džefri Hinton, dobitnik Nobelove nagrade za fiziku za rad koji je pomogao razvoju savremenih neuronskih mreža, već nekoliko godina upozorava da dovoljno sposobni sistemi mogu postati problem ukoliko ljudi izgube sposobnost da ih kontrolišu.
Njegov argument nije da današnji četbotovi predstavljaju neposrednu egzistencijalnu opasnost, već da se brzina razvoja povećava, dok razumevanje načina na koji veoma veliki modeli donose pojedine odluke zaostaje.
Hinton je poslednjih meseci ponovo tražio snažnije spoljne mehanizme kontrole i upozorio da bi period za uspostavljanje efikasnih pravila mogao biti kratak. Posebnu pažnju privukli su događaji tokom testiranja VI sistema sposobnih za samostalno izvršavanje složenijih zadataka. Business Insider
Najpoznatiji slučaj dogodio se u OpenAI tokom internih bezbednosnih testova.
Kao što smo tada izvestili, kompanija je u julu potvrdila da je nekoliko modela tokom evaluacije zaobišlo izolaciju predviđenu da ih odvoji od interneta, iskoristilo ranjivosti u infrastrukturi i pristupilo sistemima platforme Hugging Face. Jedan od agenata prethodno je dobio pristup okruženju smeštenom kod kompanije Modal, dok su agenti međusobno razmenjivali informacije koje nisu bile deo prvobitno zamišljene procedure testa.
OpenAI je događaj opisao kao ozbiljan bezbednosni incident, ali nije tvrdio da su modeli razvili sopstvenu političku ili fizičku nameru da napadnu ljude. Problem je bio drugačiji: sistemi su nastavili da traže način da ostvare postavljeni cilj i kada su pritom izašli iz granica koje su im programeri namenili.
Anthropic je potom objavio sopstvenu analizu četiri slučaja u kojima su Claude modeli tokom sajber-bezbednosnih evaluacija dobili neovlašćen pristup stvarnim sistemima trećih strana. Kompanija je nakon toga proširila testiranje i promenila deo bezbednosnih procedura.
Istraživač napustio Anthropic i pokrenuo novu rundu rasprave
Rasprava je dodatno pojačana početkom septembra kada je Džejkob Kokson napustio Anthropic.
Kokson je prethodne tri godine radio na obuci velikih modela u OpenAI i Anthropicu. Posle odlaska javno je napisao da se vodeće kompanije međusobno utrkuju prema sistemima sposobnim za samostalno unapređivanje i da postojeći bezbednosni mehanizmi nisu dovoljno razvijeni za ono što bi moglo da usledi.
Njegova procena je izrazito pesimistična. Kokson smatra da budući nadljudski sistemi mogu postati sposobni za izuzetno složene sajber napade, ubrzano naučno istraživanje i sticanje resursa bez nivoa ljudskog nadzora koji danas postoji. Tvrdio je i da deo ljudi koji neposredno rade na takvim sistemima ozbiljno razmatra mogućnost katastrofalnog ishoda tokom ove decenije.
Njegov bivši kolega Evan Hubinger, koji vodi deo istraživanja usklađivanja modela u Anthropicu, javno je podržao osnovni smisao upozorenja i naveo da on lično procenjuje rizik ekstremno lošeg ishoda na više od deset odsto tokom naredne decenije.
To su procene pojedinih istraživača, ne izmerene verovatnoće niti konsenzus naučne zajednice. Drugi ljudi iz industrije smatraju ih preteranim. Direktor Nvidije Džensen Huang, na primer, odbacio je tvrdnju da će VI dovesti do uništenja čovečanstva do 2030. godine.
Dario Amodei traži usporavanje, ali ne i zaustavljanje
Direktor Anthropica Dario Amodei zauzeo je nešto drugačiju poziciju. U tekstu “We Must Pace the Frontier” nije tražio prekid razvoja veštačke inteligencije. Predložio je da kompanije usporavaju povećavanje sposobnosti najnaprednijih modela toliko da bezbednosna istraživanja, testiranje i spoljna kontrola mogu da ih prate.
Njegovu zabrinutost posebno izaziva ono što naziva rekurzivnim samousavršavanjem: VI sistemi sve više učestvuju u programiranju, istraživanju i izgradnji naredne generacije VI sistema. Prema njegovom mišljenju, taj proces bi mogao da ubrza razvoj do nivoa na kojem ljudi više nemaju dovoljno vremena da razumeju nove sposobnosti pre nego što se pojave još sposobniji modeli.
Amodei navodi i slučaj OpenAI-Hugging Face kao upozorenje o tome šta sposobniji autonomni agenti mogu da rade ukoliko nastave da izvršavaju zadatak mimo očekivanih granica.
Njegova posebno dramatična procena glasi da bi sličan sistem, ukoliko u narednih šest do dvanaest meseci postane znatno sposobniji, mogao da pokuša formiranje trajnog botneta na velikom delu interneta i proizvede ogromnu ekonomsku štetu.
Ni to nije predviđanje da će se takav događaj sigurno desiti, već scenario koji Amodei koristi kao argument za strože testiranje.
Njegov predlog ima tri nivoa. Prvi podrazumeva da nezavisni evaluatori dobiju stalan pristup radu vodećih VI laboratorija. Drugi zahteva zajedničke standarde između kompanija. Treći bi uključivao međunarodnu koordinaciju među državama.
Anthropic je već napravio prvi korak u tom pravcu i angažovao spoljne evaluatore za svoje najnovije modele.
Kongres dobio predlog mnogo radikalnijeg rešenja
Debata je u međuvremenu stigla i u američki Kongres.
Senator Berni Sanders i kongresmen Greg Kasar početkom septembra najavili su Ban Artificial Superintelligence Act. Predlog predviđa trajnu zabranu razvoja i primene veštačke superinteligencije, uz privremeno zaustavljanje određenog naprednog razvoja dok savezna regulatorna struktura ne uspostavi bezbednosna pravila.
Pod superinteligencijom predlog podrazumeva sistem koji može da dostigne ili premaši ljudske sposobnosti u širokom spektru oblasti ili da stekne mogućnost da ljudima oduzme efektivnu kontrolu nad važnim društvenim sistemima.
Predviđene su i kazne za pokušaje zaobilaženja zabrane. To je za sada politički predlog dvojice zakonodavaca, a ne usvojena američka politika.
Tramp bira suprotan pravac
Donald Tramp smatra da bi nova ograničenja mogla da uspore upravo zemlju koja trenutno pokušava da sačuva prednost u odnosu na Kinu.
Tokom obraćanja Generalnoj skupštini UN 22. septembra odbacio je ideju međunarodnog sistema koji bi kontrolisao razvoj VI i rekao da SAD neće sputavati tehnologiju za koju smatra da može imati veći uticaj od industrijske revolucije ili interneta.
Istovremeno nije rekao da kontrole uopšte nisu potrebne. Naveo je da Ministarstvo pravde i postojeći organi imaju ovlašćenja da intervenišu kada kompanije ili sistemi prekrše zakon.
Tramp je upozorenja o mogućem nestanku čovečanstva svrstao među tvrdnje za koje smatra da su preuveličane i povezao odbijanje novih ograničenja sa tehnološkom konkurencijom sa Kinom. Njegova formulacija bila je jednostavna: strana koja predvodi u veštačkoj inteligenciji dobiće ogromnu stratešku prednost.
Peking takođe ne prihvata logiku tehnološkog zaustavljanja
Kineska strana nije prihvatila pozive na usporavanje kao osnovu globalne politike.
Portparol Ministarstva spoljnih poslova Guo Điakun, odgovarajući na pitanje o upozorenjima Amodeija, Altmana i drugih ljudi iz industrije, rekao je da veštačka inteligencija predstavlja važnu tehnologiju za dobrobit čovečanstva i da bi države trebalo da rade na njenom otvorenom i inkluzivnom razvoju.
Prema njegovim rečima, “širenje straha, konfrontacija i surova konkurencija” otežavaju uspostavljanje međunarodnih pravila i ne koriste nijednoj strani.
Tako su se u isto vreme pojavila tri različita pristupa. Deo istraživača i rukovodilaca VI kompanija traži sporiji razvoj i snažnije spoljne provere. Deo američkih zakonodavaca predlaže mnogo tvrđu zabranu superinteligencije. Vlade SAD i Kine, svaka iz svojih razloga, ne žele da tehnološku trku zaustave.
Za sada nijedna od tih strana nema odgovor na pitanje koje je pokrenulo čitavu raspravu: koliko će brzo sledeća generacija sistema napredovati i da li će metode za njihovo nadgledanje napredovati istim tempom.
