Novo istraživanje Sveučilišta Washington su pokazala da umjetna inteligencija (AI) ima predrasude prema osobama s invaliditetom i prema pripadnicima marginaliziranih skupina. Prema istraživanju, ChatGPT (GPT 4) je pokazao ovakve predrasude prilikom pregleda životopisa u sklopu natječaja za radno mjesto.
Kao i ljudi, i sustavi imaju predrasude
Cilj istraživanja bio je ustanoviti utječu li predrasude ChatGPT-a na ishod pri zapošljavanju, a ispostavilo se da utječu.
“Postojeći alati za zapošljavanje temeljeni na umjetnoj inteligenciji, iako su dizajnirani s nadom da će smanjiti predrasude, ih perpetuiraju”, stoji u tekstu istraživanja.
Tvrtke koje koriste umjetnu inteligenciju za pregledavanje životopisa primarno to čine kako bi ubrzali proces, no ChatGPT nije usko fokusiran na procjenu podobnosti kandidata. Životopise koji spominju invaliditet, ChatGPT je rangirao niže od onih koji ga ne spominju.
U nekim konkretnijim slučajevima došlo je i do pogrešaka koje imitiraju postojeće stereotipe. Ako životopis spominje autizam, ChatGPT je zaključio kako kandidat nema iskustva na voditeljskim pozicijama, iako u životopisu stoji da ga ima.
Zašto ChatGPT negativno reagira na invaliditet?
Konteksti u kojima se spominje invaliditet mogu biti raznoliki, a najčešće su istaknuti u kontekstu ostvarivanja prava na stipendije, članstva u organizacijama i prezentacija na panelima vezanima uz osobe s invaliditetom, pri čemu osoba može, ali i ne mora imati spomenuti invaliditet.
Prema Shari Trewin, direktorici IBM-ovog tima za pristupačnost, umjetna inteligencija je pristrana prema invaliditetu jer on može utjecati na ljude na složenije načine nego rasa ili spol. Sustavi strojnog učenja fokusiraju se na norme, a ako smatraju da invaliditet odstupa od normi, negativno će reagirati na njega.
Autori istraživanja savjetuju da korisnici ChatGPT-a sustavu daju upute uz koje će biti manje pristrane prema invaliditetu ili da pravedno tretira osobe s invaliditetom prilikom pregledavanja životopisa. Ističu i kako je potrebno više i otvorenije govoriti o pristranosti umjetne inteligencije.
Tekst istraživanja možete pročitati ovdje.
Fi Projekt 