Korzystanie z systemów automatycznego podejmowania decyzji przez biznes czy instytucje publiczne może mieć różne konsekwencje, w tym również te negatywne, jak np. dyskryminacja. Z tymi problemami chce walczyć niemiecki minister sprawiedliwości, który proponuje stworzenie nowych przepisów regulujących stosowanie algorytmów.

Nierówności, a nie prywatność – tak chyba najlepiej można streścić książkę Cathy O’Neil pt. Broń matematycznej zagłady. W świecie „po Snowdenie” chyba zbyt często myślimy o tym, że odległe służby inwigilują nas i oglądają nasze nagie fotki. Tymczasem to, co już teraz robią maszyny i komputery, to wprowadzanie systematycznych podziałów na lepszych i gorszych oraz formalizowanie wielu społecznych nierówności.

Łomża ma być pierwszym miastem w Polsce, w którym na szeroką skalę będzie wykorzystywana technika biometryczna w usługach publicznych. Zgodnie z informacjami prasowymi obywatele będą mogli kupić np. bilet komunikacji miejskiej tylko za pomocą odcisku palca.

Steven Spielberg w słynnym Raporcie mniejszości (Minority report) z 2002 r. prezentuje świat drugiej połowy XXI wieku, w którym do okrzyknięcia kogoś mordercą bądź morderczynią nie trzeba samej zbrodni: wystarczy zamiar jej popełnienia. Ten element wykreowanej rzeczywistości został przez widzów dobrze zapamiętany: działania mające na celu zapobieganie przestępczości, w tym terroryzmowi, przy uciekaniu się do metod, których skuteczność budzi poważną wątpliwość – jak choćby automatyczne wychwytywanie nietypowego (sic!) zachowania – ironicznie kwituje się nieraz wyrażeniem „jak z Raportu mniejszości”.

Twarz to wizytówka, którą trudno ukryć. Dzięki unikalnemu rozmieszczeniu jej elementów technologie mogą nas identyfikować, a nawet rozpoznawać nastrój i emocje. Naszą twarzą interesuje się zarówno biznes, jak i państwo. Firmy chcą z niej wyczytać wiek, zasobność portfela i reakcje na bodźce, państwo – w imię bezpieczeństwa – porównać ją z wizerunkami poszukiwanych przestępców.