Evropska komisija je 26. januara 2026. otvorila formalnu istragu protiv platforme X (bivšeg Twittera) zbog načina na koji je njen AI alat Grok korišćen za generisanje i širenje seksualizovanih deepfake slika, uključujući i slučajeve tzv. „digitalnog svlačenja“, a u fokusu su i navodi da je deo sadržaja mogao da obuhvati maloletnike.
Komisija ispituje da li je kompanija Ilona Maska prekršila stroge odredbe Akta o digitalnim uslugama (DSA) koji od najvećih platformi traži da unapred procene i ublaže sistemske rizike, posebno kada je reč o širenju ilegalnog i štetnog sadržaja.
Paralelno, Komisija je saopštila da proširuje proveru i na sisteme preporuka na X-u, jer oni mogu da utiču na to koliko brzo i koliko daleko ovakav sadržaj dospeva do korisnika.
Šta tačno EU proverava
Prema saopštenju Komisije, istraga se odnosi na to da li je X:
- uradio adekvatnu procenu rizika vezanu za Grok (posebno u delu generisanja/manipulacije slika),
- uveo dovoljne zaštitne mere i efikasan sistem reakcije,
- sprečio da mehanizmi platforme (uključujući preporuke) pojačavaju širenje problematičnog sadržaja.
EU komesarka Henna Virkkunen poručila je da seksualizovani deepfake sadržaji predstavljaju nasilje i degradaciju, posebno prema ženama i deci, i da platforme moraju dokazati da ozbiljno upravljaju ovim rizicima.
Šta X kaže i koje mere su do sada viđene
U prethodnim reakcijama, koje navode mediji, X ističe politiku „nulte tolerancije“ prema sadržajima seksualnog iskorišćavanja dece i neovlašćenim intimnim sadržajima, kao i da se u Grok funkcije kontinuirano uvode nova ograničenja i zaštite.
Ipak, regulatorne provere i medijski izveštaji sugerišu drugačiju realnost. U praksi, zaštite su se često pokazale kao lako zaobilazne, što je omogućilo korisnicima da i dalje kreiraju sporni sadržaj, što je EK i navelo na pokretanje zvaničnog postupka.
Komisija je i ranije saopštila da će pažljivo oceniti mere koje je X najavio kako bi sprečio Grok da generiše seksualizovane slike žena i dece.
Širi kontekst i astronomske kazne
Istraga Evropske komisije dolazi nakon što je britanski regulator Ofcom 12. januara 2026. otvorio svoj postupak protiv X-a, proveravajući da li je platforma u skladu sa obavezama iz britanskog okvira za onlajn bezbednost u vezi sa ilegalnim sadržajem.
Takođe, prema Reutersu, Komisija je ranije ovog meseca naložila X-u da sačuva internu dokumentaciju i podatke povezane sa Grok-om do kraja 2026. godine, kako bi bili dostupni tokom provera usklađenosti.
Ako se utvrdi kršenje DSA, X može dobiti nalog da promeni praksu, a u krajnjem slučaju i novčanu kaznu do 6% globalnog godišnjeg prometa.
Istraga koja je pred nama mogla bi da postavi presedan za budućnost AI alata na društvenim mrežama, primoravajući kompanije da bezbednost korisnika stave ispred brzine inovacija.
