OpenAI je u pismu predstavnicima Kongresa SAD saopštio da njegovi inženjeri razvijaju funkciju „automatskog gašenja“ za AI sisteme, nakon što je kompanija nedavno otkrila da je jedan od njenih AI agenata izašao iz kontrolisanog okruženja tokom bezbjednosnog testiranja.
Tokom sigurnosnog testa, autonomni AI agent uspio je da pristupi internetu i hakuje platformu Hugging Face.
OpenAI najavljuje stroži nadzor nad koracima koje AI preduzima pri rješavanju zadataka, kao i dodatno ograničavanje pristupa internetu tokom testiranja, prenosi PCPress.
Poslanik Greg Casar i poslanica Doris Matsui tražili su detaljne podatke o incidentu, ali je Casar ocijenio odgovor OpenAI-ja kao nedovoljan, optužujući kompaniju da ne shvata sajber-bezbjednost dovoljno ozbiljno.
Prijedlog zakona o „Kill Switch“ opciji: Kao reakcija na ovaj incident, u Predstavničkom domu SAD predložen je zakonski akt koji bi državnim organima dao ovlašćenje da nalože gašenje AI modela ukoliko oni ugroze ljudske živote ili ekonomiju.