Kogo wykluczają nowe technologie? Rozmowa z Kubą Piwowarem

Podcast

13.07.2023

1 min. czytania

Dźwięk

Żeby móc wykonywać swoją pracę, badaczka algorytmów, Joy Buolamwini, musiała zakładać białą maskę. W przeciwnym wypadku algorytm sztucznej inteligencji nie rozpoznawał punktów na jej twarzy. Barierą okazał się czarny kolor skóry Buolamwini, ponieważ baza danych, na której został wytrenowany testowany przez nią algorytm, nie była dość różnorodna.

Na tym przypadku widać, na czym polega „algorithmic bias” – po polsku: uprzedzenie albo skrzywienie algorytmu.

Debata o tym, kogo najczęściej wykluczają nowe technologie toczy się od dłuższego czasu. W jej wyniku firmy z Doliny Krzemowej otwierają się na osoby reprezentujące mniejszości, aby zmniejszyć ryzyko dyskryminacji zaszytych w swoich usługach. Na topowych uczelniach wykładana jest „etyka sztucznej inteligencji”, a rosnąca popularność narzędzi takich jak Chat GPT czy BARD wymusza bardzo poważną dyskusję o tym, na jakich danych należy oraz na jakich danych wolno trenować kolejne generacje uczących się algorytmów.

Czy to wystarczy, by uzdrowić usługi, z których korzystamy lub których działaniu jesteśmy poddawani na co dzień?

W ostatnim odcinku podcastu Panoptykon 4.0 przed wakacyjną przerwą Katarzyna Szymielewicz rozmawia z Kubą Piwowarem, socjologiem z Centrum Kulturowych Badań Technologii na Uniwersytecie SWPS, autorem książki „Technologie, które wykluczają. Pomiar, dane, algorytmy”, od 15 lat zawodowo związanym z firmą Google.

Odsłuchaj, dodaj do ulubionej aplikacji przez RSS lub obejrzyj na YouTubie.

Na skróty:

00:01 Wstęp
01:44 „Technologie, które wykluczają”
06:06 Jak technologie „nie działają”?
10:00 Skrzywione dane
12:25 Zapobieganie dyskryminacji algorytmów
15:02 Regulacja a biznes
23:00 Etyczny design
26:15 Społeczne aspekty nowych technogii
29:53 Zakończenie