Vještačka inteligencija daje prednost biografijama koje je sama napisala?

Istraživanja ukazuju na to da bi kandidati koji koriste iste AI modele kao poslodavci mogli imati znatno veće šanse da budu pozvani na razgovor.

Vještačka inteligencija sve više mijenja način na koji ljudi traže posao, ali i način na koji poslodavci biraju kandidate. Međutim, novo iskustvo jedne advokatske firme i istraživanja o automatiziranom zapošljavanju otvaraju pitanje koje bi moglo dodatno zakomplikovati tržište rada: da li alati vještačke inteligencije daju prednost biografijama koje su također napisane uz pomoć AI-ja?

Ranije ove godine britanska advokatska firma Addleshaw Goddard suočila se s problemom koji postaje sve češći. Oglas za radno mjesto u IT odjelu ljudskih resursa privukao je čak 178 prijava. Godinu ranije za sličnu poziciju vjerovatno bi se prijavilo tek nekoliko desetina kandidata.

Razlog za nagli porast broja prijava djelimično leži u razvoju vještačke inteligencije, koja kandidatima omogućava da mnogo brže pripreme biografije i prijave prilagođene konkretnim oglasima.

Kako bi ubrzala proces selekcije, firma je odlučila ispitati može li AI agent efikasno procjenjivati kandidate i uporediti njegove rezultate s procjenama ljudskih stručnjaka.

AI agent odabrao drugačije kandidate od ljudi

Firma je koristila interni sistem Microsoft Copilot, kojem su dostavljeni podaci o radnom mjestu, potrebnom iskustvu s određenim HR sistemima i programskim jezicima, kao i poznavanju same vještačke inteligencije.

Nakon što su ljudski zaposlenici suzili izbor na približno desetak kandidata, AI agent dobio je zadatak da ih ocijeni i rangira.

Međutim, rezultati se nisu poklapali s procjenama ljudi.

AI agent posebno je visoko ocijenio kandidate čije su biografije sadržavale impresivne tvrdnje o izuzetnim IT dostignućima ostvarenim u vrlo kratkom roku ili o radu na velikim projektima uprkos ograničenom iskustvu. Takve tvrdnje djelovale su pretjerano i ostavljale utisak da su biografije napisane ili unaprijeđene uz pomoć vještačke inteligencije.

Katherine Rathbone, direktorica ljudskih resursa u firmi Addleshaw Goddard, navela je da bi jedan od razloga mogao biti način na koji je agent tumačio kriterije za izbor kandidata.

Budući da je poznavanje vještačke inteligencije bilo jedan od zahtjeva radnog mjesta, moguće je da je sistem znakove korištenja AI-ja prilikom pisanja biografije protumačio kao dokaz da kandidat dobro poznaje tu tehnologiju.

Ipak, postoji i zabrinjavajuća mogućnost: da je AI agent jednostavno davao prednost prijavama u čijem je pisanju učestvovala vještačka inteligencija.

Istraživanje pokazalo značajnu prednost kandidata koji koriste AI

Takva mogućnost nije samo teorijska. Istraživački rad koji ispituje ponašanje AI alata za zapošljavanje ukazuje na to da bi vještačka inteligencija mogla favorizirati kandidate koji koriste isti jezički model kao i sistem koji procjenjuje njihove prijave.

Istraživači su simulirali realistične procese zapošljavanja za 24 različita zanimanja, među kojima su bili nastavnici, konsultanti, kuhari i inženjeri.

Prema rezultatima istraživanja, kandidati koji su koristili isti AI jezički model kao sistem za selekciju imali su između 23 i 60 posto veće šanse da uđu u uži izbor u odnosu na kandidate čije su biografije pripremili bez takve pomoći.

Razlike su bile najizraženije u poslovima poput prodaje i računovodstva, dok su bile manje u oblastima kao što su poljoprivreda i automobilska industrija.

Istraživački rad još prolazi kroz doradu prije objavljivanja u naučnom časopisu s recenzijom, pa se pojedini nalazi mogu promijeniti. Ipak, jedan od autora, Jiannan Xu, izjavio je da ažurirane analize i dalje pružaju dokaze o tome da AI modeli pokazuju sklonost davanju prednosti vlastitim rezultatima i sličnim sadržajima.

Tržište rada ulazi u novu AI trku

Ovi nalazi dolaze u trenutku kada vještačka inteligencija već mijenja odnos između kandidata i poslodavaca.

S jedne strane, kandidati koriste AI kako bi napisali kvalitetnije biografije, prilagodili prijave oglasima i povećali šanse za zaposlenje. S druge strane, poslodavci sve češće koriste automatizirane alate za pregled velikog broja prijava.

Rezultat je svojevrsna trka u naoružanju vještačkom inteligencijom: kandidati koriste AI da bi se istakli, dok poslodavci koriste AI da bi među sve većim brojem prijava pronašli najbolje kandidate.

Ako sistemi za selekciju zaista favoriziraju biografije napisane uz pomoć određenih AI modela, problem postaje još ozbiljniji. Kandidat bi mogao biti u nepovoljnijem položaju ne zato što ima manje znanja ili iskustva, nego zato što koristi drugi alat ili uopće ne koristi vještačku inteligenciju.

Takav razvoj događaja mogao bi dodatno produbiti nejednakost u zapošljavanju i dovesti u pitanje objektivnost automatizirane selekcije.

Kako smanjiti pristrasnost AI sistema?

Istraživači navode dvije relativno jednostavne mjere koje bi mogle znatno smanjiti ovu vrstu pristrasnosti.

Prva je da se AI sistemu izričito naloži da zanemari porijeklo biografije, odnosno da ne uzima u obzir je li tekst napisao čovjek ili ga je pripremila vještačka inteligencija. Umjesto toga, sistem bi se trebao usredotočiti na sadržaj prijave, relevantne vještine i iskustvo kandidata.

Druga mjera je korištenje više različitih AI modela za procjenu kandidata. Na taj način smanjila bi se mogućnost da pristrasnost jednog sistema presudno utiče na konačnu odluku.

Ove mjere mogle bi pomoći poslodavcima da bolje iskoriste prednosti automatizacije, uz istovremeno smanjenje rizika od nepravednog rangiranja kandidata.

Ljudska procjena i dalje je ključna

U slučaju firme Addleshaw Goddard, konačnu odluku nisu prepustili vještačkoj inteligenciji. Kandidata koji je dobio posao izabrali su ljudi, a nije riječ o osobi koju je AI agent rangirao na prvo mjesto.

Taj primjer pokazuje da, uprkos brzini i potencijalnim prednostima automatizirane selekcije, ljudska procjena i dalje ima važnu ulogu u zapošljavanju.

Kako je istakla Katherine Rathbone, alati vještačke inteligencije imaju potencijal da unaprijede proces zapošljavanja, ali njihova primjena još zahtijeva pažljivo testiranje i odgovarajući nadzor.

U vremenu kada se sve više odluka donosi uz pomoć algoritama, ključno pitanje nije samo koliko brzo AI može pregledati stotine biografija, već i da li može pravedno procijeniti ljude koji stoje iza njih.

Jer ako vještačka inteligencija počne davati prednost kandidatima samo zato što su koristili isti alat kao i ona, sposobnost da se dobije posao mogla bi sve više zavisiti od izbora tehnologije, a sve manje od stvarnog znanja i iskustva.

(Vijesti.ba)