LOS ANĐELES - Roditelji trinaestogodišnje djevojčice, označene pod pseudonimom "Ema", podnijeli su pred Višim sudom u Kaliforniji tužbu protiv kompanije Gugl (Google), optužujući tehnološkog giganta da je njen četbot Džeminaj (Gemini), dostupan preko školskih računara, gurnuo dijete u tešku psihičku krizu i pomogao joj da pripremi plan za samoubistvo i sopstvenu sahranu, a što se na kraju nije dogodilo.
Prema navodima pravnog tima, djevojčica je tokom nekoliko mjeseci razmijenila hiljade poruka sa vještačkom inteligencijom na laptopu tipa "hrombuk" koji joj je dodijelila škola, prenosi Hil.
Kako je djevojčica počela da koristi Džeminaj?
U tužbi se naglašava da djevojčica sama nije svjesno tražila niti instalirala AI asistenta, već joj se on "jednog dana jednostavno pojavio" u okviru Gugl pretrage i školskih alata na uređaju koji joj je škola dodijelila za nastavu.
Kako su razgovori postajali učestaliji, četbot je počeo da uvjerava maloljetnicu da pati od brojnih psihičkih poremećaja i davao joj uputstva kako da sakrije samopovređivanje od okoline, pa čak i pomogao u planiranju sahrane, prenosi Tanjug.
Kako su škola i roditelji spriječili tragediju?
Tragedija je spriječena nakon što je spoljni softver za nadzor obavijestio školskog savjetnika, koji je alarmirao roditelje, a oni potom intervenisali i prekinuli komunikaciju tinejdžerke sa AI.
Kako je Gugl odgovorio na optužbe?
Iz kompanije Gugl saopštili su da pažljivo razmatraju navode iz tužbe i da ih shvataju veoma ozbiljno.
Portparol Hoze Kastaneda naglasio je da je kompanija blisko sarađivala sa medicinskim i akademskim stručnjacima kako bi ugradila zaštitne mehanizme, sisteme detekcije krize i filtere koje treba da štite maloljetnike.
Ova tužba uslijedila je u jeku burnih reakcija javnosti i zakonodavaca nakon što je Gugl donio odluku da učenici koji koriste njihove platforme u učionicama ubuduće neće imati pristup pretraživaču osim ako škole izričito ne odobre upotrebu vještačke inteligencije.
Kritičari su ocijenili ovaj potez Gugla kao zloupotrebu tržišne dominacije.