Kompanija OpenAI proširila je opcije roditeljske kontrole, pa će od sada obavještavati roditelje i staratelje sa povezanim nalozima ukoliko njihovo dijete bude izbačeno sa platforme ChatGPT zbog kršenja pravila o nasilnim prijetnjama, piše Engadget.
Sistem roditeljskog nadzora, koji je pokrenut prošle godine, već omogućava povezivanje naloga roditelja i tinejdžera radi ograničavanja vremena korištenja, smanjenja osjetljivog sadržaja i slanja obavještenja u slučaju da chatbot otkrije znakove samopovređivanja kod djeteta.
Najnovijim ažuriranjem, roditelji će dobijati direktna upozorenja ako nalog njihovog djeteta bude deaktiviran zbog kršenja pravila o nasilnom ponašanju, čime je omogućeno ranije prepoznavanje potencijalne opasnosti koju maloljetnici mogu predstavljati za svoju okolinu.
U razvoju ove bezbjednosne funkcije OpenAI je sarađivao sa kompanijom Moonshot, koja je specijalizovana za praćenje i suzbijanje nasilja na internetu.
Prema riječima osnivača kompanije Moonshot, Vidhya Ramalingama, blagovremeno obavještavanje roditelja uz pružanje šireg konteksta predstavlja ključni prvi korak koji porodicama daje priliku da ranije reaguju i potraže pomoć. Ramalingam naglašava da je ovakav pristup samo jedna od mnogih mjera koje će biti potrebne kako bi se osigurala veća bezbjednost mladih ljudi tokom korištenja servisa ChatGPT.
Ova velika promjena bezbjednosnih protokola uslijedila je nakon što je otkriveno da je osumnjičeni za masovnu pucnjavu u mjestu Tumbler Ridge u Britanskoj Kolumbiji 2025. godine koristio ChatGPT. Kanadske vlasti su zvanično pozvale kompaniju na odgovornost nakon izvještaja da OpenAI nije obavijestio nadležne organe kada je blokirao nalog napadača, prenosi PCPress.
Izvršni direktor kompanije OpenAI, Sam Altman, uputio je i javno izvinjenje zbog ovog ozbiljnog propusta, obećavši značajno pooštravanje mjera bezbjednosti unutar sistema.
Pored novog sistema bezbjednosnih upozorenja, OpenAI je uveo i opciju Study Mode, koju roditelji mogu aktivirati direktno kroz kontrolni panel, a koja omogućava da ChatGPT pruža smjernice i tragove prije davanja konačnih odgovora kako bi pomogao učenicima u učenju.
Chatbot će, osim toga, tinejdžerima koji provode previše vremena na platformi slati češća podsjećanja na pauzu, s ciljem da im pomogne u razvijanju zdravijih digitalnih navika.