BRISEL - Gotovo svaka šesta poslanica u Evropskom parlamentu našla se na meti seksualno eksplicitnih sadržaja napravljenih ili povezanih sa vještačkom inteligencijom, pokazalo je istraživanje njemačke organizacije Agora Digitale Transformation, koje ponovo upozorava na razmjere zloupotrebe takozvane deepfake tehnologije.
Analizom je utvrđeno da je pogođeno 50 članova Evropskog parlamenta, od kojih su čak 46 žene, što pokazuje da su političarke daleko češće mete ove vrste digitalnog seksualnog nasilja.
Kako nastaje sporni sadržaj?
Riječ je o korištenju generativne vještačke inteligencije za stvaranje lažnih seksualno eksplicitnih fotografija ili drugih sadržaja bez pristanka osoba koje su na njima predstavljene. Političari su posebno izloženi jer je veliki broj njihovih fotografija i snimaka javno dostupan na internetu, što olakšava korištenje takozvanih "nudifier" aplikacija, odnosno AI alata koji fotografije odjevenih osoba pretvaraju u lažne nage prikaze.
Šire istraživanje iste organizacije, koje je obuhvatilo 5.872 aktuelna parlamentarca, pokazalo je da je najmanje 138 političarki iz 22 evropske zemlje prikazano ili pomenuto na stranicama povezanim sa deepfake pornografijom, naspram samo devet muškaraca. Kada se uzmu u obzir faktori poput godina, porijekla, političkog opredjeljenja, javne prepoznatljivosti i nacionalnog zakonodavstva, žene u parlamentima imaju čak 33 puta veću vjerovatnoću da budu povezane sa takvim sadržajem nego njihove muške kolege.
Ko bi trebalo da snosi odgovornost?
Jedan od autora istraživanja Benjamin Šulc upozorio je da za efikasnu zabranu nije dovoljno djelovati samo protiv samih AI aplikacija. Prema njegovim riječima, odgovornost bi trebalo proširiti i na aktere koji omogućavaju njihov rad, uključujući pružaoce platnih usluga i kompanije koje registruju internet domene, dok bi trebalo razmotriti i uklanjanje ovakvih stranica iz rezultata internet pretraživača.
Poseban problem predstavljaju stranice koje funkcionišu poput kataloga javnih ličnosti, sa njihovim biografskim podacima i običnim fotografijama, ali istovremeno direktno povezuju korisnike sa AI alatima pomoću kojih se u svega nekoliko koraka mogu napraviti seksualizovane lažne fotografije navodi Anadolija. Time se, prema istraživanju, proces zloupotrebe dodatno pojednostavljuje i čini dostupnim velikom broju korisnika.
Šta Evropska unija namjerava da uradi?
Evropska unija priprema stroža pravila kojima bi trebalo zabraniti AI alate namijenjene stvaranju seksualnih ili intimnih sadržaja bez pristanka osobe koja je prikazana. Države članice već su podržale izmjene evropskih pravila o vještačkoj inteligenciji kojima bi takvi sistemi bili eksplicitno zabranjeni, uključujući alate za pravljenje deepfake sadržaja i materijala povezanih sa seksualnim zlostavljanjem djece.
Grupa od 119 poslanika Evropskog parlamenta iz različitih političkih grupacija uputila je 30. septembra pismo institucijama EU zahtijevajući da zabrana bude efikasno sprovedena i da istraga protiv AI alata Grok, integrisanog u društvenu mrežu X, bude brzo okončana. Među adresatima su bili predsjednica Evropske komisije Ursula fon der Lajen, predsjednik Evropskog savjeta Antonio Košta i predsjednica Evropskog parlamenta Roberta Metsola.
Zašto se traži istraga protiv Groka?
Evropska komisija ranije je pokrenula formalnu istragu protiv platforme X zbog seksualno eksplicitnih lažnih sadržaja koje je mogao da generiše Grok, a predmet istrage je i pitanje da li je kompanija adekvatno procijenila i umanjila rizike koje ovaj AI alat predstavlja za korisnike u Evropskoj uniji. Evropski Zakon o digitalnim uslugama obavezuje velike internet platforme da preduzimaju mjere protiv širenja nezakonitih sadržaja i smanjuju sistemske rizike za korisnike.
Razmjere problema dodatno pokazuju podaci Evropskog parlamenta prema kojima je broj deepfake snimaka na internetu od 2019. do 2023. porastao za 550 odsto, dok seksualno eksplicitni sadržaji čine oko 98 odsto svih deepfake videa, a žene čak 99 odsto identifikovanih žrtava takve pornografije. Evropski parlament upozorava da posljedice nisu samo psihološke i reputacione, već mogu ugroziti i demokratsko učešće žena tako što ih obeshrabruju da javno iznose stavove ili se uopšte kandiduju za političke funkcije.