Artykuł 13.06.2018 4 min. czytania Tekst Image Trybunał Konstytucyjny uznał w ubiegłym tygodniu część przepisów dotyczących profilowania bezrobotnych za niezgodne z Konstytucją. Dlatego w ciągu najbliższych 12 miesięcy dojdzie do zmian. Jednak najważniejsze pytania, jak choćby o możliwość uzależnienia pomocy państwa od decyzji algorytmu, pozostają otwarte. Wszystkie osoby zarejestrowane jako bezrobotne dzielone są na trzy grupy (tzw. profile) różniące się stopniem gotowości do podjęcia pracy i rodzajem pomocy, jaką otrzymają z urzędu pracy. Podział odbywa się na podstawie specjalnego algorytmu: w trakcie rozmowy z urzędnikiem wypowiedzi bezrobotnego dopasowywane są do specjalnego klucza i punktowane, żeby ostatecznie stać się podstawą do przyznania bezrobotnemu określonego profilu. Dzięki naszemu zwycięstwu przed sądem algorytm (lista pytań i dostępnych odpowiedzi wraz z punktacją) jest jawny – można znaleźć go na naszej stronie. Profilowanie bezrobotnych budzi jednak szereg wątpliwości – opisaliśmy je w raporcie Profiling the unemployed in Poland: social and political implications of algorithmic decision making. Po pierwsze, problemem jest brak przejrzystości: dokładne kryteria ustalenia profilu zawarte są w wytycznych (z zasady dostępnych tylko urzędnikom), które mogą się w każdej chwili zmienić. Nie wszyscy bezrobotni mają też dostęp do algorytmu profilowania, na podstawie którego system wylicza profil. Po drugie, profilowanie bazuje na założeniu, że maszyna wie lepiej od człowieka i podejmie obiektywną decyzję. Jednak system kategoryzowania ludzi oparty jest na uproszczeniach, które nie uwzględniają wielu złożonych sytuacji życiowych. Twórcy nowego mechanizmu argumentowali, że samo profilowanie ma jedynie pomagać w określeniu rodzaju pomocy dla osoby bezrobotnej, jednak z naszych badań wynika, że tylko w 0,58% sytuacji urzędnicy zdecydowali się na zmianę wygenerowanego przez system profilu. Po trzecie, profilowanie skonstruowane jest w wadliwy sposób: bezrobotny nie ma możliwości odwołania od ustalonego profilu pomocy, a zakres danych wykorzystywanych w procedurze nie wynika wprost z ustawy (czego wymaga Konstytucja). Konsekwentnie krytykowaliśmy przepisy dotyczące profilowania bezrobotnych, m.in. namawialiśmy Rzecznika Praw Obywatelskich do ich zakwestionowania przed Trybunałem Konstytucyjnym. I tak się właśnie stało. Trybunał przyznał, że część naszych zarzutów była słuszna. Konsekwentnie krytykowaliśmy przepisy dotyczące profilowania bezrobotnych, m.in. namawialiśmy Rzecznika Praw Obywatelskich do ich zakwestionowania przed Trybunałem Konstytucyjnym. I tak się właśnie stało. Rzecznik w swoim wniosku zarzucił przepisom niezgodność z Konstytucją ze względu na brak możliwości odwołania od przyznania profilu i to, że zakres danych wykorzystywanych w profilowaniu nie wynika z ustawy. Trybunał nie uwzględnił pierwszego zarzutu i stwierdził, że ustalenie profilu pomocy dla bezrobotnego nie jest odrębną „sprawą”, a tylko w takich sytuacjach ustawa zasadnicza przyznaje każdemu z nas prawo do odwołania. Trybunał podzielił natomiast drugi zarzut. Jego zdaniem przepisy naruszają wymóg ustawowej regulacji zasad i trybu zbierania informacji o jednostkach – dlatego przestaną obowiązywać 12 miesięcy od opublikowania wyroku. Decyzja Trybunału jest zachowawcza i omija najważniejsze problemy związane z profilowaniem. Ma jednak fundamentalną zaletę: utrata mocy obowiązującej części przepisów wymusza na rządzie podjęcie prac legislacyjnych. Być może będzie to szansa na realizację deklaracji kierownictwa Ministerstwa Rodziny, Pracy i Polityki Społecznej, które już ponad dwa lata temu zapowiadało zmiany w profilowaniu ze względu na jego nadmierną biurokratyczność. Mamy zatem nadzieję, że konieczne zmiany pójdą w dobrym kierunku. Nie zapominamy przy tym, że zostały one wymuszone przez wyrok Trybunału Konstytucyjnego, co do którego działania i obsady mamy fundamentalne zarzuty. Wojciech Klicki Wesprzyj naszą walkę o wolność i prywatność! Wpłać darowiznę na konto Fundacji Panoptykon. Wojciech Klicki Autor Temat profilowanie algorytmy Poprzedni Następny Newsletter Otrzymuj informacje o działalności Fundacji Administratorem twoich danych jest Fundacja Panoptykon. Więcej informacji o tym, jak przetwarzamy dane osób subskrybujących newsletter, znajdziesz w naszej Polityce prywatności. Zapisz się Zapisz się Akceptuję Regulamin usługi Zobacz także Artykuł „Rosyjski” FaceApp nie jest groźniejszy od samego Facebooka Czy zaspokojenie ciekawości, jak możesz wyglądać za kilkadziesiąt lat, naprawdę jest warte tak dużo, by w zamian oddać dostęp do wrażliwych danych nieznanej aplikacji, do tego rosyjskiej? Maciej Kawecki z Ministerstwa Cyfryzacji przestrzega przed bezrefleksyjnym korzystaniem z usługi FaceApp, która… 19.07.2019 Tekst Podcast O statystyce, Facebooku i mikrotargetingu. Rozmowa z Dominikiem Batorskim Czy dla reklamodawcy jesteśmy tylko targetem? Jak Facebook zmienił świat reklamy internetowej? Czy mikrotargeting jest etyczny? – opowiada Dominik Batorski, adiunkt w Interdyscyplinarnym Centrum Modelowania Matematycznego i Komputerowego na Uniwersytecie Warszawskim i współzałożyciel firmy… 14.11.2018 Dźwięk Artykuł Bierzesz kredyt? Walczymy o Twoje prawa Sejm pracuje nad pakietem zmian w ponad 100 ustawach, które są potrzebne do pełnego wdrożenia RODO. Jedną z tych ustaw jest prawo bankowe. Pomóż nam zawalczyć o lepsze prawo do wyjaśnienia! 03.01.2019 Tekst