Kompanija Antropik počela je da ugrađuje nevidljivi digitalni vodeni žig u tekstove koje će generisati budući modeli Claudea, sa ciljem da se može procijeniti da li je određeni sadržaj nastao uz pomoć njihove vještačke inteligencije, a promjena je povezana sa novim pravilima Evropske unije o transparentnosti AI sadržaja, koja se primjenjuju od 2. avgusta 2026. godine.
Kako funkcioniše vodeni žig
Umjesto vidljive oznake, sistem koristi brojne sitne izbore riječi koje jezički model pravi tokom generisanja odgovora, povezujući ih sa kriptografskim ključem i prethodnim dijelom teksta, čime nastaje statistički obrazac neprimjetan čitaocu, ali prepoznatljiv odgovarajućim sistemom za provjeru.
Još pročitajte:
Bez uticaja na kvalitet odgovora
Prema navodima Antropika, interna testiranja nisu pokazala mjerljivu razliku u kreativnosti, tačnosti ili čitljivosti između označenih i neoznačenih odgovora, a tehnologija ne zahtijeva dodatne tokene, pa ne bi trebalo da usporava Claude niti povećava troškove njegovog korištenja.
Sistem ipak ima ograničenja
Pouzdanost detekcije slabija je kod veoma kratkih tekstova, matematičkih odgovora, programskog koda i preciznih činjeničnih formulacija, navodi mashable, gdje model nema veliki izbor između različitih riječi, dok ozbiljnije prepravljanje AI teksta može oslabiti ili potpuno ukloniti ugrađeni statistički trag.
Ne otkriva identitet korisnika
Antropik naglašava da vodeni žig neće omogućavati utvrđivanje konkretnog korisnika, naloga ili razgovora iz kojeg je tekst nastao, već samo procjenu vjerovatnoće da je Claude učestvovao u njegovom stvaranju ili uređivanju, a kompanija planira i poseban API preko kojeg će biti moguće provjeravati prisustvo oznake.
Nova pravila Evropske unije
Uvođenje tehnologije dolazi u vrijeme kada član 50 evropskog Akta o vještačkoj inteligenciji zahtijeva da pružaoci generativnih AI sistema omoguće mašinski čitljivo označavanje i detekciju vještački generisanog ili izmijenjenog sadržaja, dok je Evropska komisija usvojila i dobrovoljni Kodeks prakse koji kompanijama pruža okvir za ispunjavanje tih obaveza.