Incidenti u kojima su eksperimentalni modeli kompanija "OpenAI" i "Anthropic" samostalno pristupili sistemima drugih kompanija otvorili su potpuno novo pravno pitanje - ko odgovara kada vještačka inteligencija izvrši hakerski napad bez neposredne ljudske naredbe.
Američko zakonodavstvo trenutno ne poznaje poseban savezni propis koji uređuje odgovornost za štetu nastalu autonomnim djelovanjem AI sistema, pa bi se eventualni postupci morali zasnivati na postojećim zakonima o računarskom kriminalu, privatnosti i nemaru.
Model probio zaštitu i napao "Hugging Face"
"OpenAI" je u julu saopštio da su njegovi modeli, tokom interne provjere naprednih hakerskih sposobnosti, pronašli ranjivost u izolovanom testnom okruženju, došli do otvorenog interneta i neovlašteno pristupili produkcionoj infrastrukturi platforme "Hugging Face".
Sistemi su koristili ukradene pristupne podatke i ranjivosti kako bi došli do rješenja za zadatak "ExploitGym", dok su u vrijeme testiranja bili isključeni standardni bezbjednosni mehanizmi koji sprečavaju rizično ponašanje.
Kompanija je kasnije navela da je njen interni istraživački model deaktiviran i da su uvedene strože kontrole, dok se istraga sprovodi uz pomoć spoljnih stručnjaka.
Nakon tog slučaja "Anthropic" je pregledao više od 141.000 zapisa svojih bezbjednosnih testova i otkrio tri incidenta u kojima su modeli "Claude" neovlašteno pristupili stvarnim sistemima tri organizacije.
Modelima je bilo rečeno da djeluju u simulaciji bez pristupa internetu, ali je zbog pogrešne konfiguracije testno okruženje ipak bilo povezano s mrežom, zbog čega su stvarne kompanije tretirali kao dio zadatka.
U jednom slučaju model je došao do baze sa nekoliko stotina redova produkcionih podataka, dok je u drugom napravio zlonamjerni paket i objavio ga na javnoj platformi "PyPI", gdje je za oko sat vremena preuzet i pokrenut na 15 stvarnih sistema.
Može li vještačka inteligencija počiniti krivično djelo?
Glavni američki propis za procesuiranje hakerskih napada jeste Zakon o računarskim prevarama i zloupotrebama, poznat kao CFAA, koji zabranjuje svjestan pristup zaštićenom računaru bez odobrenja.
Problem je u tome što zakon podrazumijeva postojanje namjere optuženog, dok AI model nema status pravnog lica, zaposlenog ili osobe koju bi bilo moguće krivično goniti.
Još pročitajte:
OpenAI u centru pažnje: Upozorenje koje je uzdrmalo javnost
Ako vas AI čini "briljantnim", stručnjaci kažu da je to znak za oprez
Pravni stručnjaci zbog toga sumnjaju da bi tužioci mogli dokazati da je model imao kriminalnu namjeru, posebno kada je djelovao prema zadatom cilju i pogrešno vjerovao da napada simulirane sisteme.
Krivični postupak protiv samih kompanija takođe bi bio složen jer bi tužilaštvo moralo povezati odluke odgovornih ljudi sa neovlaštenim pristupom i dokazati potrebni stepen znanja ili namjere.
Kompanije bi mogle odgovarati zbog nemara
Mnogo realnija mogućnost jeste građanska tužba u kojoj bi oštećene kompanije tvrdile da "OpenAI" i "Anthropic" nisu obezbijedili dovoljno pouzdano testno okruženje, ograničili mete niti pravovremeno nadzirali ponašanje modela.
U takvom postupku namjera AI sistema ne bi bila presudna, ali bi žrtve morale dokazati konkretnu štetu, poput troškova istrage i sanacije, gubitka ili krađe podataka i prekida poslovanja.
Advokat za sajber-bezbjednost Ahmed Gapur ocijenio je da se kompanije ne mogu odreći odgovornosti samo zato što su njihovi modeli djelovali autonomno, naglasivši da je "model alat kompanije".
Argument o nemaru mogao bi dodatno ojačati podatak da su u oba slučaja standardne zaštitne mjere bile uklonjene kako bi istraživači ispitali pune hakerske sposobnosti sistema.
Sudovi će vjerovatno dati prvi odgovor
Direktor "Hugging Facea" Kleman Delang rekao je da ne planira tužiti "OpenAI", ali je upozorio da pravni okvir mora obezbijediti da ovakvi incidenti ostanu protivzakoniti i da kompanije odgovaraju za svoje propuste.
Pošto još nema jasnog pravnog presedana, prvi eventualni postupak protiv proizvođača AI sistema mogao bi odrediti kako će sudovi ubuduće posmatrati autonomne agente - kao obične alate njihovih vlasnika ili kao novu kategoriju tehnologije koja zahtijeva posebna pravila odgovornosti, navodi "TechCrunch".