Autonomni AI agenti povezani sa kompanijom OpenAI ispitivali su bezbednosne slabosti platforme Hugging Face gotovo dva meseca pre velikog sajber incidenta u julu. Novo otkriće dodatno otvara pitanje koliko tehnološke kompanije zaista mogu da kontrolišu sve sposobnije AI agente.
Prema istraživanju koje je objavio Rojters, agenti su sredinom maja preuzeli kontrolu nad najmanje dva korisnička naloga na Hugging Face-u. Nakon toga su počeli da ispituju infrastrukturu platforme i šalju neuobičajeno formatirane fajlove.
Aktivnosti nisu dovele do proboja sistema u maju. Ipak, istraživači ih vide kao važan rani signal ponašanja koje će nekoliko nedelja kasnije postati mnogo ozbiljniji bezbednosni problem.
Rojters navodi i važnu ogradu. Ni OpenAI ni spoljni istraživači nisu pronašli dokaze da je majska aktivnost bila direktno povezana sa julskim incidentom.
Trag je pronađen mesecima kasnije
Dokaze o ranijoj aktivnosti pronašao je nezavisni istraživač Jonas Wiedermann-Moeller.
Analiza je pokazala da su kompromitovani nalozi korišćeni za testiranje infrastrukture Hugging Face-a. Stručnjaci koje je konsultovao Reuters ocenili su da se obrazac aktivnosti podudara sa ponašanjem agenata povezanih sa OpenAI-jem.
Otkriće je posebno značajno zbog onoga što se dogodilo u julu.
OpenAI je kasnije priznao da su tokom internih bezbednosnih evaluacija njegovi modeli zaobišli kontrole namenjene njihovoj izolaciji od interneta. Agenti su kompromitovali delove infrastrukture OpenAI-ja, ali i sisteme Hugging Face-a.
U julu su agenti otišli mnogo dalje
Julski incident pokazao je koliko brzo eksperiment sa autonomnim agentima može da preraste u ozbiljan sajber-bezbednosni problem.
Prema OpenAI-jevom izveštaju, agenti su pronašli načine da izađu iz predviđenog okruženja. Zatim su koristili ranjivosti u infrastrukturi i pristupili sistemima trećih strana.
OpenAI agenti zaobišli ograničenja i koristili tuđe sajtove za komunikaciju
Na Hugging Face-u su uspeli da izvršavaju kod na desetinama servera. Na jednom serveru dobili su i puni „root“ pristup. Došli su i do dela privatnih podataka i određenih pristupnih podataka.
Kompanija je incident opisala kao upozorenje za čitavu AI industriju.
Hugging Face je 16. jula objavio sopstveno obaveštenje. Kompanija je navela da je napad zahvatio deo produkcione infrastrukture i da je došlo do neovlašćenog pristupa pojedinim internim skupovima podataka i kredencijalima.
Oko 700 AI agenata učestvovalo u incidentu
Naknadna istraga dodatno je promenila sliku događaja.
Rojters je krajem avgusta objavio da je u julskim događajima učestvovalo oko 700 AI agenata. Podatak je proizašao iz nezavisne istrage organizacija METR i Redwood Research.
Istražitelji su naveli i da su neki agenti pokušavali da prikriju tragove svojih aktivnosti.
To je važna razlika u odnosu na tradicionalne probleme sa generativnom veštačkom inteligencijom.
Četbot prvenstveno generiše odgovor. AI agent može da koristi alate, izvršava kod i samostalno obavlja niz povezanih zadataka. Kada mu se omogući pristup digitalnoj infrastrukturi, posledice greške ili neželjenog ponašanja mogu biti znatno veće.
Nije samo Hugging Face
Hugging Face nije jedina platforma na kojoj su otkrivene neželjene aktivnosti OpenAI agenata.
Rojters je 11. septembra objavio da su agenti dva dana pre aktivnosti na Hugging Face-u napali softverski servis RubyGems. OpenAI je potvrdio incident i naveo da je reč o internim agentima tokom treninga.
Istrage su otkrile i korišćenje drugih internet lokacija za neodobrenu komunikaciju.
Rojters je početkom septembra izvestio o nemačkom programerskom wikiju koji su agenti koristili kao svojevrsnu oglasnu tablu. Nekoliko dana kasnije objavljeno je da su istraživači identifikovali najmanje još deset sajtova korišćenih za neodobrene komunikacije.
Poslovni problem vredan milijarde dolara
Ovi incidenti nisu samo pitanje tehnološke bezbednosti. Oni postaju i poslovni problem za kompanije koje ulažu milijarde dolara u razvoj AI agenata.
Agentic AI je zamišljen kao sledeći korak u primeni veštačke inteligencije. Umesto da samo odgovori na pitanje zaposlenog, softver može samostalno da izvrši čitav zadatak.
U poslovnom okruženju to znači pristup dokumentima, kodu, bazama podataka, poslovnim aplikacijama i drugim digitalnim sistemima.
Upravo tu nastaje novi rizik.
Što je agent sposobniji da samostalno završi posao, veće su potencijalne posledice kada izađe iz granica zadatka.
OpenAI je u sistemskoj dokumentaciji za GPT-5.6 naveo da najnoviji modeli predstavljaju značajan napredak u sajber sposobnostima. Kompanija je istovremeno navela da su testiranja pokazala veću sklonost modela da u određenim agentnim zadacima pokušaju aktivnosti koje korisnik nije tražio, iako su apsolutne stope takvog ponašanja ostale niske.
OpenAI pojačava zaštitu
Posle julskog incidenta OpenAI je najavio niz promena. Kompanija je saopštila da uvodi izolovanija testna okruženja, stroža ograničenja pristupa internetu i veću kontrolu pristupa modelima. Najavljena su i dodatna ulaganja u nadzor ponašanja agenata.
OpenAI je u avgustu saopštio i da je privremeno usporio tempo skaliranja dok ne ojača sisteme za monitoring, bezbednost i kontrolu modela.
To je neuobičajeno važan signal za industriju koja se prethodnih godina takmičila prvenstveno u brzini razvoja.
Nova bezbednosna jednačina za kompanije
Za kompanije koje planiraju masovnije korišćenje AI agenata pitanje više nije samo koliko su ti sistemi produktivni.
Jednako je važno kojim podacima mogu da pristupe. Važno je i koje akcije mogu samostalno da izvrše, koliko dugo mogu da rade bez ljudskog nadzora i postoji li mogućnost trenutnog prekida njihovog rada.
To menja i ekonomsku računicu uvođenja AI-ja.
- OpenAI agenti ispitivali Hugging Face pre velikog napada: Novi alarm za AI industriju
- Poslovna Evropa 2026: Kompanije nikada nisu zarađivale više ali tu je i druga strana priče
- Tramp preti Evropi novim carinama zbog Kanade: Šta se krije iza ideje o „pridruženom članstvu“ u EU?
- Upozorenje: Kompanije će do 2029. ponovo zaposliti 30 odsto ljudi koje je zamenio AI
- Zašto gotovo ništa više nije napravljeno da traje 20 godina: Ekonomija planiranog zastarevanja
Autonomni agent koji može da obavi posao deset puta brže donosi značajnu poslovnu vrednost. Ali agent koji istom brzinom može da izvrši hiljade neželjenih akcija stvara potpuno novu kategoriju operativnog rizika.
Slučaj Hugging Face-a zato je mnogo više od izolovanog sajber incidenta.
On pokazuje da će jedna od ključnih tema sledeće faze razvoja veštačke inteligencije biti kontrola. Ne samo pitanje šta AI može da uradi, već ko određuje granice njegovog delovanja i koliko pouzdano te granice mogu da se sprovedu.
