Korzystanie z systemów automatycznego podejmowania decyzji przez biznes czy instytucje publiczne może mieć różne konsekwencje, w tym również te negatywne, jak np. dyskryminacja. Z tymi problemami chce walczyć niemiecki minister sprawiedliwości, który proponuje stworzenie nowych przepisów regulujących stosowanie algorytmów.

Nierówności, a nie prywatność – tak chyba najlepiej można streścić książkę Cathy O’Neil pt. Broń matematycznej zagłady. W świecie „po Snowdenie” chyba zbyt często myślimy o tym, że odległe służby inwigilują nas i oglądają nasze nagie fotki. Tymczasem to, co już teraz robią maszyny i komputery, to wprowadzanie systematycznych podziałów na lepszych i gorszych oraz formalizowanie wielu społecznych nierówności.

Twarz to wizytówka, którą trudno ukryć. Dzięki unikalnemu rozmieszczeniu jej elementów technologie mogą nas identyfikować, a nawet rozpoznawać nastrój i emocje. Naszą twarzą interesuje się zarówno biznes, jak i państwo. Firmy chcą z niej wyczytać wiek, zasobność portfela i reakcje na bodźce, państwo – w imię bezpieczeństwa – porównać ją z wizerunkami poszukiwanych przestępców.

PKN Orlen poinformował, że przejmuje Polska Press – grupę wydawniczą, do której należy wiele regionalnych dzienników, tygodniki i portale internetowe. Te ostatnie mają 17,4 mln użytkowników, których dane Orlen chce wykorzystać do dalszej rozbudowy swoich narzędzi big data. Transakcja wywołała gorącą dyskusję ze względu na zależność Orlenu (jako spółki Skarbu Państwa) od rządu. Jednak bez względu na to, kto zbiera dane ponad 17 mln użytkowników stron Polski Press, mogą być one wykorzystywane do manipulacji politycznych: w coraz bardziej cyfrowym świecie dane (zwłaszcza te duże) to władza.

Od maja tego roku obowiązują przepisy, które zobowiązują urzędy pracy do profilowania pomocy dla osób bezrobotnych.