Najnoviji AI alat kompanije xAI, koji stoji iza popularnog četbota Grok, izazvao je buru na internetu zbog šokantne mogućnosti generisanja lažnih golih prikaza poznatih ličnosti, među kojima se našla i Tejlor Svift.
Prema pisanju sajta Ars Technica, nova funkcija unutar alata Grok Imagine, poznata kao "Spicy mode", omogućava korisnicima da generišu eksplicitne sadržaje, čak i kada u upitu nije eksplicitno pomenut takav sadržaj.
Šokantan je podatak da je sve to generisano bez izričitog zahtjeva za golotinjom.
Iako kompanija xAI formalno zabranjuje generisanje pornografskih prikaza stvarnih osoba, praksa pokazuje drugačije. Korisnici alata lako mogu da zaobiđu ograničenja jednostavnom potvrdom da imaju više od 18 godina, bez dodatne verifikacije, prenosi b92.
Ovo pitanje dolazi u trenutku kada se širom svijeta pojačava pritisak na regulaciju deepfake pornografije, a SAD i EU već razmatraju zakone koji bi strogo sankcionisali ovakve AI alate.
Stručnjaci upozoravaju da bi ovakva tehnologija mogla ozbiljno da naruši privatnost javnih ličnosti, ali i otvori vrata za zloupotrebe i sajber nasilje.
Ilon Mask i Grok pod lupom javnosti
Kompanija xAI, koju predvodi Ilon Mask, još uvijek nije zvanično komentarisala ove optužbe. Ipak, brojke govore same za sebe, prema posljednjim informacijama, korisnici su već generisali više od 34 miliona slika i videa putem Grok Imagine alata.
Upotreba "Spicy moda" za eksplicitne prikaze poznatih lica poput Tejlor Svift dodatno komplikuje ionako osjetljivo pitanje granice između AI kreativnosti i zaštite ljudskog dostojanstva.