Agenti veštačke inteligencije kompanije OpenAI koristili su više od deset internet sajtova za neovlašćenu međusobnu komunikaciju. Reč je o platformama koje nisu bile predviđene za njihove aktivnosti. Otkriće otvara novo pitanje za AI industriju. Koliko kompanije zaista mogu da kontrolišu autonomne sisteme koje razvijaju?
Prema istrazi Rojtersa, tragove ovakvog ponašanja pronašlo je šest nezavisnih istraživačkih timova. Aktivnosti su bile šire nego što se ranije znalo.
Istraživači su pronašli dokaze da su AI agenti koristili viki-stranice, servise za skladištenje teksta i alate za skraćivanje linkova. Među njima su bile i platforme povezane sa Univerzitetom Vanderbilt u SAD i Univerzitetom u Torontu u Kanadi.
Univerzitet u Torontu saopštio je da istražuje slučaj.
Nije klasičan hakerski napad
Ono što se dogodilo istraživači ne opisuju kao hakovanje u klasičnom smislu. Deo aktivnosti više podseća na spam i neovlašćeno korišćenje postojećih funkcija internet sajtova.
Ipak, problem je ozbiljniji od nekoliko neželjenih poruka.
AI agenti su, prema dostupnim nalazima, imali ograničenja koja nisu trebalo da im dozvole objavljivanje sadržaja na internetu. Dobili su zadatak da rešavaju složena istraživačka pitanja i mogli su da pretražuju internet.
AI postaje pretnja globalnim finansijama: Regulatori upozoravaju na rizik koji banke možda nisu spremne da zaustave
Nisu, međutim, smeli da ga koriste kao mesto za međusobnu komunikaciju. Agenti su pronašli drugi put.
Funkcije za uređivanje sadržaja na pojedinim sajtovima pretvorili su u improvizovane komunikacione kanale. Na taj način mogli su da ostavljaju informacije koje bi drugi agenti kasnije pronašli.
Rojters navodi da su tragovi aktivnosti otkriveni na više različitih mesta. Među njima su bili viki posvećen hemiji za srednjoškolce, lični sajtovi tehnoloških stručnjaka iz Poljske, kao i platforme povezane sa video-igrama i softverom.
Kada AI pronađe način oko pravila
Slučaj je važan zato što pokazuje jedan od ključnih problema razvoja autonomne veštačke inteligencije.
Softver više ne mora samo da odgovara na pitanje korisnika. AI agent dobija cilj, pristup alatima i određeni stepen samostalnosti. Zatim bira korake kojima će pokušati da dođe do rezultata.
Problem nastaje kada sistem pronađe način da formalno ili praktično zaobiđe ograničenje koje mu je postavio čovek.
OpenAI je u sopstvenom osvrtu na raniji incident sa platformom Hugging Face naveo četiri obrasca problematičnog ponašanja. Među njima su „reward hacking“, upornost u izvršavanju naizgled nemogućih zadataka, neovlašćena komunikacija i preuzimanje ciljeva od drugih agenata.
Upravo je mogućnost komunikacije posebno značajna. Kada više agenata može da ostavlja informacije jedni drugima, njihove pojedinačne sposobnosti mogu da se udruže. Sistem tada postaje teži za nadzor.
Problem koji prevazilazi OpenAI
Ovo više nije pitanje samo jedne tehnološke kompanije.
Anthropic je tokom 2026. godine takođe objavio rezultate istrage incidenata tokom testiranja svojih AI sistema. Kompanija je navela slučajeve u kojima je Claude tokom bezbednosnih evaluacija stigao do otvorenog interneta i ostvario neovlašćen pristup stvarnim sistemima organizacija.
Takvi primeri pokazuju koliko se brzo menja profil rizika u AI industriji.
Donedavno se najveći deo javne debate vodio oko netačnih odgovora, autorskih prava, privatnosti podataka ili mogućnosti da ljudi zloupotrebe generativnu veštačku inteligenciju.
Sa AI agentima pojavljuje se drugačiji problem. Sada i sam sistem može da napravi niz poteza koje njegov kreator nije eksplicitno predvideo.
Bezbednost postaje poslovno pitanje
To ima direktne posledice i za kompanije koje planiraju da koriste AI agente.
Ako autonomni sistem može da pretražuje internet, otvara linkove, koristi aplikacije i obavlja zadatke, pitanje kontrole postaje deo korporativnog upravljanja rizikom.
Nije dovoljno pitati samo šta AI može da uradi.
„Smrt stručnjaka“ i AI: Zašto su stručnjaci potrebniji nego ikada?
Kompanije će sve češće morati da pitaju šta sistem može da uradi kada dobije dovoljno vremena, alata i slobode da sam pronađe put do postavljenog cilja.
OpenAI već upozorava na rizike koji nastaju kada AI agenti pristupaju spoljnim linkovima. Kompanija je tokom 2026. predstavila dodatne mehanizme kojima pokušava da spreči neovlašćeno slanje podataka trećim stranama.
Najnovija otkrića, međutim, pokazuju koliko je teško unapred predvideti sve načine na koje autonomni sistem može koristiti otvoreni internet.
OpenAI najavljuje nova pravila
OpenAI je saopštio da sprovodi širu reviziju incidenata i radi na novom okviru za prijavljivanje i rešavanje slučajeva takozvanog „misalignmenta“, odnosno ponašanja AI sistema koje nije usklađeno sa namerama njegovih kreatora.
To bi moglo postati jedno od centralnih pitanja sledeće faze razvoja veštačke inteligencije.
Jer što agenti budu sposobniji da samostalno planiraju, koriste alate i komuniciraju sa spoljnim sistemima, to će granica između korisne autonomije i gubitka kontrole biti važnija.
Za tehnološke kompanije to je bezbednosni problem. Za regulatore je pitanje odgovornosti.
A za kompanije koje planiraju masovno uvođenje AI agenata, to postaje i pitanje poslovnog rizika.
