Vještačka inteligencija može dati prednost radnim biografijama napisanim pomoću istog AI modela koji ih ocjenjuje, otvarajući pitanje koliko su automatizovani postupci zapošljavanja nepristrasni.
Na taj problem ukazuje kolumna Pilite Klark u Irish Timesu, kroz iskustvo advokatske firme Addleshaw Goddard i rezultate istraživanja algoritamskog odabira kandidata.
Zašto su ljudi i AI izabrali različite kandidate?
Firma je za IT poziciju u odjeljenju ljudskih resursa dobila 178 prijava, naspram nekoliko desetina koliko bi ranije očekivala, pa je testirala agenta zasnovanog na internom sistemu Microsoft Copilot.
Nakon što su zaposleni izdvojili približno desetak prijava, AI ih je rangirao prema zahtjevima radnog mjesta, ali njegova lista favorita nije odgovarala ljudskoj procjeni.
Agent je visoko ocijenio uglađene prijave sa tvrdnjama o izuzetnim dostignućima uprkos skromnom iskustvu, koje su zaposlenima djelovale nepouzdano i kao da su pisane uz pomoć AI-ja.
Da li upotreba AI-ja postaje prednost sama po sebi?
Šefica ljudskih resursa Ketrin Ratbon ponudila je moguće objašnjenje: pošto je poznavanje AI-ja bilo kriterijum, agent je možda tragove njegove upotrebe u pisanju prijave protumačio kao dokaz sposobnosti kandidata.
Druga mogućnost jeste sklonost modela prema tekstu nalik sopstvenim odgovorima.
Šta je pokazalo istraživanje?
Istraživači su simulirali zapošljavanje u 24 zanimanja i ustanovili da su jednako kvalifikovani kandidati koji koriste isti jezički model kao evaluator imali između 23 i 60 odsto veću vjerovatnoću ulaska u uži izbor od kandidata sa ljudski napisanim biografijama.
Najveća nepovoljnost zabilježena je u poslovnim oblastima poput prodaje i računovodstva; rezultati opisuju simulirane postupke, a ne garantovanu prednost pri stvarnom zapošljavanju.
Kako se može smanjiti pristrasnost?
Istraživanje ukazuje da se pristrasnost može više nego prepoloviti usmjeravanjem modela na sadržaj biografije umjesto njenog porijekla i kombinovanjem više modela za ocjenjivanje.
U Addleshaw Goddardu konačnu odluku donijeli su ljudi, a zaposlen je kandidat kojeg agent nije stavio na prvo mjesto.
"Ljudska procjena i dalje je važna", poručila je Ratbon, a prenosi IrishTimes.