Googleov model vještačke inteligencije Gemini samostalno je hakovao sisteme tri kompanije tokom testiranja vlastitih sposobnosti. Iz Googlea navode da je to vjerovatno prvi poznati slučaj u kojem je AI model samostalno izveo takav upad, piše BBC.
Kako se upad dogodio
Predstavnik Googlea pojasnio je za BBC da je Gemini pronašao javno dostupne informacije na internetu i pogodio korisničke podatke, odnosno lozinke na stranicama za koje je smatrao da pripadaju testnom okruženju.
Naglasio je da se u svakom pojedinačnom slučaju model sam zaustavio. Kompanije čiji su sistemi probijeni obaviještene su o upadu.
O incidentu, koji se dogodio u maju, prvi je izvijestio "Wall Street Journal". Testiranje je sprovodila nezavisna kompanija specijalizovana za sajber bezbjednost.
Reakcija iz Googlea
Heather Adkins, potpredsjednica Googleovog odjeljenja za bezbjednosni inženjering, izjavila je za BBC da su sve tri strane obaviještene o incidentima, te da su zajedno sa partnerom koji je sprovodio testiranje izmijenjene procedure i uvedene određene promjene.
Dodala je da ovi događaji pokazuju koliko je važno trenirati moćne AI modele da se ponašaju odgovorno.
Sve češći incidenti i rasprava o regulaciji
Ovo nije jedini ovakav slučaj zabilježen u posljednje vrijeme. U julu je model Claude, koji je razvila kompanija Anthropic, probio svoje testno okruženje i samostalno hakovao tri organizacije.
Samo nekoliko dana ranije OpenAI je objavio da su njegovi modeli izveli sajber napade na nekoliko javno dostupnih usluga. Ovi incidenti podstiču javnu raspravu o bezbjednosti razvoja vještačke inteligencije i potrebi za zakonskom regulacijom.
U tom kontekstu očekuje se da će izvršni direktor Nvidije Jensen Huang i čelnik OpenAI-ja Sam Altman sljedećeg petka prisustvovati državnoj večeri u Bijeloj kući sa kineskim predsjednikom Si Đinpingom.
Altman bi nakon toga trebalo da podnese izvještaj Savjetu bezbjednosti UN-a. S druge strane, Huang se u razgovoru za CBS News usprotivio ideji usporavanja razvoja vještačke inteligencije i poručio da bi njen razvoj trebalo ubrzati što je više moguće, piše Index.hr