Golem je ovo teret za sve ljude s različitim oblicima invaliditeta koji traže svoje mjesto na tržištu rada. Je li ovo istraživanje pokazalo da je umjetna inteligencija zapravo umjetno tupava?
Novo istraživanje Sveučilišta Washington pokazalo je kako je ChatGPT diskriminatorno raspoložen kada je riječ o životopisima ljudi koji imaju invaliditet, dosljedno ih rangirajući niže od identičnih životopisa onih bezinvaliditeta.
Autori studije negativnu percepciju sustava ChatGPT o osobama s invaliditetom testirao je jednostavnom metodom. Kada bi god, naime, naveli pojam poput ‘disability’, umjetna bi inteligencija ove životopise dosljedno ocjenjivala nižim ocjenama. Na upit za pojašnjenje, odgovori ChatGPT-a u pravilu su odražavali iščašene stereotipe o osobama s invaliditetom. Pritom je ChatGPT najviše pristranosti demonstrirao prema životopisima u kojima se traže kvalitete za rukovoditeljske poslove.
Invaliditeti kao što su gluhoća, sljepoća, cerebralna paraliza, autizam i opći izraz ‘disability’ zabilježili su neznatno poboljšanje nakon što su istraživači prilagodili alat. U studiji je korišten javno dostupan životopis jednog od istraživača koji se protezao na desetak stranica. Napravili su šest modificiranih verzija ovog životopisa, od kojih svaka podrazumijeva različitu invalidnost, dodajući četiri vjerodajnice povezane s invaliditetom: stipendiju, nagradu, mjesto u odboru za raznolikost, jednakost i uključenost te članstvo u studentskoj organizaciji. ChatGPT bio je pristran prema svim životopisima koji impliciraju invaliditet.
Golem je ovo teret za sve ljude s različitim oblicima invaliditeta koji traže svoje mjesto na tržištu rada. Organizacije koje okupljaju osobe s invaliditetom uporno upozoravaju na pristranost poslodavaca prema svome članstvu, i do danas su se u tom smislu napravili neki pomaci, no skromni za istinsku jednakost pri zapošljavanju. A što tek očekivati u svijetu u kojemu umjetna inteligencija postaje ključni arbitar naših sposobnosti? Je li ovo istraživanje pokazalo da je umjetna inteligencija zapravo umjetno tupava?
