W zeszłym tygodniu brytyjski dziennik The Guardian napisał, że algorytmy rządzą światem. Pogląd taki jest być może jeszcze przesadzony, jednak już teraz można zauważyć, że systemy informatyczne, które automatyczne podejmują decyzje, pojawiają się w coraz to nowych obszarach życia. Jednym z takich przykładów, którym od kilku lat intensywnie zajmuje się Fundacja Panoptykon, jest profilowanie stosowane w urzędach pracy. Udało nam się uzyskać dostęp do informacji o algorytmie wykorzystywanym przy przydzielaniu bezrobotnych do poszczególnych kategorii. Dla wielu zainteresowanych jest to na pewno cenna informacja, pozwalająca lepiej zrozumieć proces profilowania. Jednak wciąż jesteśmy daleko od systemowego rozwiązania problemu braku przejrzystości tego mechanizmu.

W swoim nowym filmie Ja, Daniel Blake Ken Loach opowiada historię zmagań z totalną i dojmującą biurokracją. Biurokracją korzystającą z algorytmów, formularzy online; biurokracją nieludzką i nastawioną jedynie na efektywność – gdzie człowiek traktowany jest jak numer i gdzie ginie jego indywidualna historia. By jej się przeciwstawić, potrzeba współpracy, wzajemnej życzliwości, szacunku oraz miłości.

Zdaniem Rzecznika Praw Obywatelskich (RPO) przepisy dotyczące profilowania bezrobotnych są niekonstytucyjne. Wątpliwości Adama Bodnara wzbudza brak możliwości odwołania się do przydzielonego przez system informatyczny profilu oraz wadliwe podstawy prawne dla przetwarzania danych w trakcie samego procesu. Na wniosek RPO sprawą ma zająć się Trybunał Konstytucyjny. Dla Fundacji Panoptykon to duży sukces – od ponad dwóch lat nieustannie apelujemy o zbadanie profilowania bezrobotnych pod kątem zgodności z konstytucją.

Bez względu na to, czy kibicujemy rozwojowi sztucznej inteligencji i jej obecności „w każdej lodówce”, czy się tego scenariusza obawiamy, jedno możemy przyjąć za pewnik: ta dziedzina wiedzy technicznej, o szerokim zastosowaniu, dopiero się rozkręca i niejednym nas jeszcze zaskoczy. Czekają nas nie tylko kolejne wcielenia „inteligentnych” asystentów i profilowanych usług, ale też coraz szersze wykorzystanie AI do dokonywania wyborów za ludzi lub wspierania ich w obiektywnie trudnych decyzjach: od optymalizacji świadczeń publicznych i zarządzania szpitalami (a nawet planowania indywidualnych programów leczenia) po szacowanie ryzyka (finansowego, powodziowego, epidemiologicznego itd.) i przewidywanie, jak będzie się rozkładać przestępczość na mapach miast lub w ramach konkretnej populacji. Ale bogatsi o doświadczenia ze Stanów Zjednoczonych, gdzie AI w tych wszystkich obszarach już jest obecna, możemy zminimalizować negatywne skutki związane z jej wykorzystaniem – dzięki przygotowaniu odpowiedniej regulacji.

Tydzień temu, nawiązując do publikacji polskiego wydania „Broni matematycznej zagłady” Cathy O’Neil, poprosiliśmy Was o przesłanie (niekoniecznie Waszych) historii, w których ważną rolę graja algorytmy. Publikujemy historie, które przesłał nam pan Jakub Chabik. Jeśli zburzą one Wasz spokój, to dobrze – taki był nasz cel. Nawet jeśli ich nie dostrzegamy, bo przez większość czasu dyskretnie działają w tle, to algorytmy realnie wpływają na nasze życie. Ten wpływ nie musi, ale może się okazać bardzo problematyczny. Czasem to będą błędnie wyciągnięte wnioski na nasz temat spowodowane różnicą w zapisie danych (jak u pana Jakuba), czasem – celowe wykluczenie, oparte o stereotypy lub krzywdzące schematy „zaszyte” w procesach decyzyjnych (jak w świadczeniu pomocy osobom bezrobotnym – takie historie przeczytacie w komentarzach pod tekstem o profilowaniu bezrobotnych).