W zeszłym tygodniu brytyjski dziennik The Guardian napisał, że algorytmy rządzą światem. Pogląd taki jest być może jeszcze przesadzony, jednak już teraz można zauważyć, że systemy informatyczne, które automatyczne podejmują decyzje, pojawiają się w coraz to nowych obszarach życia. Jednym z takich przykładów, którym od kilku lat intensywnie zajmuje się Fundacja Panoptykon, jest profilowanie stosowane w urzędach pracy. Udało nam się uzyskać dostęp do informacji o algorytmie wykorzystywanym przy przydzielaniu bezrobotnych do poszczególnych kategorii. Dla wielu zainteresowanych jest to na pewno cenna informacja, pozwalająca lepiej zrozumieć proces profilowania. Jednak wciąż jesteśmy daleko od systemowego rozwiązania problemu braku przejrzystości tego mechanizmu.

W swoim nowym filmie Ja, Daniel Blake Ken Loach opowiada historię zmagań z totalną i dojmującą biurokracją. Biurokracją korzystającą z algorytmów, formularzy online; biurokracją nieludzką i nastawioną jedynie na efektywność – gdzie człowiek traktowany jest jak numer i gdzie ginie jego indywidualna historia. By jej się przeciwstawić, potrzeba współpracy, wzajemnej życzliwości, szacunku oraz miłości.

Zdaniem Rzecznika Praw Obywatelskich (RPO) przepisy dotyczące profilowania bezrobotnych są niekonstytucyjne. Wątpliwości Adama Bodnara wzbudza brak możliwości odwołania się do przydzielonego przez system informatyczny profilu oraz wadliwe podstawy prawne dla przetwarzania danych w trakcie samego procesu. Na wniosek RPO sprawą ma zająć się Trybunał Konstytucyjny. Dla Fundacji Panoptykon to duży sukces – od ponad dwóch lat nieustannie apelujemy o zbadanie profilowania bezrobotnych pod kątem zgodności z konstytucją.

Technologie mogą być przydatne do walki z globalną pandemią koronawirusa. Stosowanie części z nich wiąże się z ingerencją w prywatność i zwiększonym nadzorem nad społeczeństwem. Te nadzwyczajne środki muszą jednak spełniać określone warunki, o których przestrzeganie do władz unijnych i państwowych apelujemy wspólnie z European Digital Rights. Dzisiejsze nadzwyczajne środki nie mogą stać się jutrzejszą codziennością.

19 marca rząd udostępnił aplikację „Kwarantanna domowa”. Narzędzie ma z jednej strony za zadanie odciążyć służby w weryfikowaniu, czy osoby, które powinny przebywać na kwarantannie, stosują się do ograniczeń. Z drugiej strony – jak wyjaśnia Ministerstwo Cyfryzacji – ma ułatwić obywatelom i obywatelkom odbywanie kwarantanny.

Po opublikowaniu aplikacji, którą w nadchodzących dniach będą instalować dziesiątki tysięcy osób objętych kwarantanną, zaczęły do nas docierać pytania o to, czy zaproponowane przez rząd narzędzie jest bezpieczne z punktu widzenia ochrony naszych danych. Stawiają je osoby, które nie chcą bojkotować państwa w jego wysiłkach na rzecz walki z epidemią, ale są zaniepokojone tym, że aplikacja zbiera dokładne dane o ich lokalizacji i dane biometryczne. W jakich celach te dane mogą być w przyszłości wykorzystane przez państwo? Czy zasilą bazy danych służb? A może posłużą do trenowania polskich algorytmów do rozpoznawania twarzy? [AKTUALIZACJA: od 1 kwietnia instalowanie aplikacji jest obowiązkowe]