Dyskryminujący algorytm

Badacze i badaczki z Carnegie Mellon University and the International Computer Science Institute przebadali pod kątem dyskryminacji ze względu na płeć algorytmy wyświetlania reklam przez Google. Za pomocą specjalnie stworzonego narzędziania, AdFisher, sprawdzili, jak Google śledzi użytkowników i jak według zebranych danych serwuje im reklamy. Podstawowym wnioskiem z badań jest to, że wbrew oczekiwaniom, że algorytmy będą wyrównywać nierówności między ludźmi, raczej je pogłębiają. Dzieje się tak chociażby na poziomie reklam z ofertami pracy. Stworzeni na potrzeby badania fałszywi użytkownicy-mężczyźni dostawali reklamy lepiej płatnych ofert pracy od użytkowniczek-kobiet. Mimo takich samych cech profili wykorzystanych w badaniu, algorytm dyskryminował kobiety. Naukowcy, prezentując te wyniki, podkreślali rosnący problem braku transparentności działania takich algorytmów, których rola w naszym życiu jest coraz większa.