Od maja zeszłego roku obowiązują przepisy dotyczące profilowania osób bezrobotnych. Fundacja Panoptykon już na etapie prac legislacyjnych krytycznie oceniała pomysł resortu pracy. Projektowi zarzucaliśmy niekonstytucyjność, brak przejrzystości oraz dyskryminacyjny charakter. Jednym z istotnych problemów, na które zwracaliśmy uwagę, była kwestia zmiany profilu pomocy. Zdecydowaliśmy więc przyjrzeć się, jak wygląda to w praktyce. Wnioski z tego badania prezentujemy poniżej.

Czy zaspokojenie ciekawości, jak możesz wyglądać za kilkadziesiąt lat, naprawdę jest warte tak dużo, by w zamian oddać dostęp do wrażliwych danych nieznanej aplikacji, do tego rosyjskiej? Maciej Kawecki z Ministerstwa Cyfryzacji przestrzega przed bezrefleksyjnym korzystaniem z usługi FaceApp, która zgrabnie przerabia nasze twarze, ale przy tym wymaga udostępnienia zdjęć zapisanych na telefonie.

Mierzymy się z upadkiem niezależnych mediów, z uzależnieniem ludzi od informacyjnych bodźców, z zanikiem krytycznego myślenia i coraz lepiej kamuflowaną manipulacją, która zniekształca debatę publiczną w kluczowych dla demokracji momentach. Wobec tych zagrożeń musimy odejść od liberalnego założenia, że jednostka sama sobie poradzi – w wywiadzie z Michałem Płocińskim z redakcji Plus Minus mówi Katarzyna Szymielewicz, prawniczka, szefowa fundacji Panoptykon.

Wyobraźmy sobie nowy, cyfrowy ład. Taki, w którym ludzie nie są przetwarzani, jak cyfrowa biomasa, ale mają prawo głosu i są w stanie decydować o swoich danych. Dostają usługi, które są dopasowane do ich potrzeb, a jednocześnie bezpieczne. Nie wysyłają ich danych na giełdy reklam, nie śledzą bez pozwolenia, nie tworzą fałszywych lub nadużywających profili. Nowy cyfrowy ład, w którym wiedza o ludziach, która dziś jest kontrolowana wyłącznie przez komercyjne firmy, zaczyna być wykorzystywana do rozwiązywania wspólnych problemów. Cyfrowy ekosystem, w którym nasze dane karmią projekty i realizują cele, które sami uznajemy za ważne. Brzmi jak utopia? Niekoniecznie, raczej jak ambitny polityczny projekt dla Unii Europejskiej. 

Technologie oparte na danych nie są neutralne. Decyzje o zbieraniu, analizowaniu i przetwarzaniu konkretnych kategorii informacji są dyktowane czynnikami społecznymi, ekonomicznymi i politycznymi. Takie operacje z wykorzystaniem danych osobowych mogą nie tylko naruszać prywatność, ale też prowadzić do dyskryminacji i pogłębienia wykluczenia już marginalizowanych społeczności. Dyskryminacja, do której prowadzi przetwarzanie danych i wykorzystanie algorytmów, to ogromne wyzwanie dla obrońców praw człowieka, a odpowiedź na nie nie jest oczywista. Raport pt. Between Anti-discrimination and Data (Między przeciwdziałaniem dyskryminacji a danymi) próbuje rzucić na problem nieco światła z perspektywy europejskich organizacji społecznych.