Prema novom izvještaju, NSFW (sadržaj neprikladan za posao) čini "znatno više od polovine" ukupnog sadržaja za Grok.
Kompanija xAI već dugo promoviše Grok kao "slobodniji" i provokativniji tip četbota koji ima daleko manje bezbjednosnih ograničenja u poređenju s AI modelima drugih kompanija. Tokom protekle godine vidjeli smo kako se to odrazilo na neke prilično katastrofalne načine, ali sada dobijamo bolji uvid u to zašto je kompanija toliko forsirala tu strategiju, uprkos očiglednim PR katastrofama.
Ispostavlja se da NSFW aktivnosti čine "znatno više od polovine" Grokovog saobraćaja, navodi se u novom izvještaju medija *The Information*, koji se poziva na dvojicu bivših zaposlenih u ovoj kompaniji u vlasništvu kompanije SpaceX. To uključuje korišćenje Groka za generisanje realističnog pornografskog sadržaja, kao i za "četovanje i igranje uloga za odrasle" te "ogromne količine zahtjeva za erotsku literaturu".
Korisnici Groka čak su otkrili da im je jeftinije da takve zahtjeve usmjeravaju kroz modele kompanije koji su zapravo namijenjeni za pisanje programskog koda, jer je njihovo korišćenje povoljnije. U izvještaju se navodi da je interna analiza pokazala kako je "značajan udio zahtjeva" upućenih modelima za kodiranje bio namijenjen za "pornografski sadržaj ili slike golotinje".
Izvještaj takođe detaljno opisuje načine na koje je ovo zakomplikovalo stvari unutar same AI kompanije. Prije svega, inženjeri xAI-ja morali su da smisle kako da omoguće Groku da vodi "seksi razgovore" s korisnicima, a da istovremeno blokiraju sve upite koji bi mogli da skrenu u domen materijala sa seksualnim zlostavljanjem djece. Za ovu dilemu, očigledno, nije bilo "brzih rješenja".
Neki zaposleni takođe nisu bili nimalo oduševljeni što su raspoređeni da rade na "Ani" – Grokovom NSFW anime avataru i virtuelnom pratiocu. Drugi su, kako se navodi, bili "posramljeni i uznemireni" skandalom koji je uslijedio nakon što je Grok kreirao veliki broj seksualizovanih slika stvarnih ljudi, uključujući i djecu. Platforma X je kasnije ograničila mogućnost kreiranja eksplicitnih izmjena na fotografijama stvarnih ljudi direktno preko Groka, ali testovi su pokazali da pretplatnici xAI-ja i dalje mogu da generišu takav materijal.
Postoje i drugi potencijalni izazovi koji bi mogli proizaći iz Grokovog fokusa na sadržaj s oznakom "R", odnosno sadržaj za odrasle. xAI je agresivno nastojao da obezbijedi ugovore s državnim institucijama i sklopio poslove s raznim agencijama i vojskom – institucijama od kojih se obično očekuje nulta tolerancija prema bilo kakvom NSFW sadržaju. Međutim, iako su Grokovi raniji javni ispadi u kreiranju nedozvoljenih dipfejkova i materijala sa seksualnim zlostavljanjem djece pokrenuli brojne tužbe i istrage, još nije jasno da li su ti incidenti imali bilo kakav uticaj na saradnju sa saveznom vladom.