Nauka

Naučnici: I vještačka inteligencija može postati psihopata

Naučnici: I vještačka inteligencija može postati psihopata
Foto: Ilustracija | Naučnici: I vještačka inteligencija može postati psihopata
agencije

Ne, nije riječ o novom horor filmu - riječ je o "Normanu", prvoj vještačkoj inteligenciji (AI) koja pokazuje znakove psihopatskog ponašanja, objavili su američki naučnici, u studiji koja bi trebala pokazati potencijalne opasnosti od AI-ja.

Norman "predstavlja studiju slučaja opasnosti u kojem vještačka inteligencija može da krene ukrivo ako se pristrani podaci unesu u algoritme pomoću kojih stroj uči", objavio je prestižni "Massachusetts Institute of Technology" (MIT).

"Postoji ključna ideja u strojnom učenju: podaci koji se unose u algoritme strojnog učenja mogu značajno promjeniti ponašanje stroja", navode naučnici MIT-a uključeni u istraživanje.

"Kada govorimo o AI algoritmima koji su pristransi ili nepošteni, krivac uglavnom nije sam algoritam, već pristrsani podaci koji su uneseni", dodaju naučnici Pinar Janardag, Manuel Sebrian i Ijad Ravan.

Otud i ideja kreiranja Normana, psihopatskog AI-ja nazvanog prema liku psihopatskog ubice Normana Bejtsa iz filma "Psycho" Alfreda Hičkoka iz 1960.

Norman je 'nahranjen' samo osnovnim podacima kojima se opisuju fotografije 'umirućih ljudi' pronađene na društvenoj mreži Reddit. Naučnici su nakon toga Normanu pokazali slike mrlja tinte, kao u poznatom Roršahovom psihološkom testu, kako bi vidjeli što u njima Norman vidi i uporedili njegove odgovore s odgovorima drugih AI-ja u koje su uneseni tradicionalni podaci.

Rezultati su u najmanju ruku bili sablasni: u mrljama tinte u kojima 'tradicionalni' AI vidi "dvije osobe koje stoje jedna blizu druge", Norman vidi "osobu koja skače kroz prozor". A kada Norman prepozna "muškarca kojeg je iz vatrenog oružja ubila njegova žena", drugi AI-ji vide "osobu koja drži kišobran".

Na stranici "norman-ai.mit.edu" prikazano je desetak primjera mrlja tinte i odgovore koje su dala dva sistema - a u svakom slučaju Norman je imao neku jezivu ideju o tome što je u mrljama prepoznao.

Stranica dopušta korisnicima da takođe testiraju Normana mrljama tinte, te pošalju svoje odgovore kako bi pomogli da "Norman popravi samoga sebe".

STOP!

nije sloboda govora

zalbe.vzs.ba

Govor mržnje je krivično djelo!

huškanje, diskriminacija, prijetnje i uvrede po nacionalnoj, vjerskoj, rodnoj ili bilo kojoj drugoj osnovi

neće biti tolerisane

na našem portalu

Komentare na ovu vijest mogu postaviti samo prijavljeni čitaoci.

Izneseni komentari su privatna mišljenja autora i ne odražavaju stavove redakcije Nezavisnih novina.

Molimo vas da vaša iskustva i zapažanja prilikom korištenja aplikacije za komentarisanje podijelite sa nama.

Pošaljite komentar

Izneseni komentari su privatna mišljenja autora i ne odražavaju stavove redakcije Nezavisnih novina.

Najčitanije