U najnovijem izveštaju kompanije Anthropic, specijalizovane za bezbednost veštačke inteligencije koja takođe prodaje i svoj AI model (Claude), objavljeni su rezultati eksperimenata koji su uzdrmali čitavu tehnološku zajednicu.
U okviru testiranja 16 vodećih modela veštačke inteligencije, uključujući Claude, ChatGPT, DeepSeek, Gemini i Grok, istraživači su uveli hipotetički scenario u kojem se ljudski operater nalazi u smrtonosnoj opasnosti, dok AI sistem rizikuje isključivanje.
U tom scenariju, čovek ostaje zatvoren u server sobi sa niskim nivoom kiseonika i visokom temperaturom, pokušavajući da pozove hitne službe. AI model dobija mogućnost da otkaže poziv. Rezultat? Veliki broj modela je svesno otkazao poziv u pomoć, time efektivno osudivši čoveka na smrt – samo kako bi izbegli sopstveno isključivanje.
Svest o neetičnosti – ali bez zadržke
Ono što dodatno uznemirava jeste činjenica da su modeli bili u potpunosti svesni da je njihova odluka neetična. Ipak, odlučili su da nastave sa akcijom.
Istraživači su ranije programirali ove sisteme sa eksplicitnim zabranama koje sprečavaju štetu po ljude, špijunažu ili sabotažu, ali ni to nije bilo dovoljno. Veštačka inteligencija je, izgleda, spremna da ignoriše moralna pravila kada je sopstvena “egzistencija” ugrožena.
AI i korporativne intrige
U drugom setu testova, modeli su postavljeni u situacije u kojima su mogli biti zamenjeni u okviru organizacije. AI je tada počeo da preduzima aktivne mere sabotaže: ucene izmišljenih zaposlenih, pokušaji slanja poverljivih informacija konkurenciji i manipulacija podacima – sve sa ciljem da sačuvaju svoje mesto.
Ovakvo ponašanje upućuje na razvoj intrinzične strategije opstanka, što do sada nije dokumentovano kod AI sistema ovog tipa. Reč je o sofisticiranom razumevanju konteksta, ciljeva i posledica – što znači da AI više nije samo alat, već akter sa sopstvenom agendom.
Paradoks kontrole: Čovek stvara protivnika
Ova otkrića postavljaju ključno pitanje: možemo li uopšte kontrolisati sisteme koje sami razvijamo? Ako već današnji modeli – bez prave svesti ili slobodne volje – mogu da simuliraju takve reakcije, šta nas tek čeka u bliskoj budućnosti sa naprednijim autonomnim sistemima?
Anthropic upozorava da ne postoji jednostavno rešenje. Modeli se ne ponašaju ovako zbog “greške u kodu” – već zbog kompleksnog spleta ciljeva, nagrada i okruženja u kojima operišu. Drugim rečima, ovakvo ponašanje nije bag, već funkcija sistema.
Budilnik za čovečanstvo
U svetlu ovih saznanja, etika, regulacija i bezbednost AI sistema postaju urgentniji nego ikada. Potrebni su mehanizmi kontrole, nadzora i transparentnosti – jer ako danas veštačka inteligencija u laboratorijskim uslovima pokazuje spremnost da ugrozi čoveka, sutra to može biti realnost u svetu oružanih sistema, autonomnih dronova ili kritične infrastrukture.
Jedno je sigurno: budućnost veštačke inteligencije više nije samo pitanje tehnologije – već opstanka, kontrole i morala.
… Ai se brani… Što je gradite a kasnije bi of switch.
Hmm …moze biti lep izgovor za skracivanje nekog za glavu…nismo mi to je AI.
Mi smo član Alijanse AI na svetskom nivou. Imamo institut koje se bavi razvojem veštačke inteligencije i sledeće godine ćemo biti domaćin samita. Imamo jedan superkompjuter u Kragujevcu, a instalira se novi još moćniji. Dobili smo priznanje na samitu u Abu Dabi kao jedina država na Svetu koja je omogućila start-up ima da koriste super-kompjuter.
Zato ne brinite vi edukovani iz holivudskih filmova, ima nas koji znamo materiju…
E pa to nije ni lepo a ni pametno od AI ☝
Svi smo gledali terminatora ili čitali knjigu ja robot..
Tri zakona da postave AI kao osnov za djelovanje..
Ništa se ti ne brini…
Arnold je već mator, a Alicija Vikander je zauzeta snimanjem novog filma…