W środę (29 kwietnia) rządzący znów postawili Internet na nogi, zapowiadając pierwszy krok w kierunku rozmrożenia gospodarki: otwarcie centrów handlowych. Jednak pod jednym warunkiem: ludzie szturmujący sklepy mieli być zachęcani do instalowania rządowej aplikacji ProteGO Safe, która szacuje ryzyko zarażenia Covid-19. Ministerstwo Rozwoju opublikowało wytyczne, z których wynikało, że do sklepów będzie mogło wejść więcej osób, o ile będą posiadać aplikację.

Już w czwartek, po pierwszej internetowej burzy, kontrowersyjny pomysł znikł z wytycznych Ministerstwa Rozwoju, ale sama aplikacja została udostępniona w sklepie Google Play (w App Store dostępna jest okrojona wersja) i prowokuje wiele pytań. Czy jest bezpieczna i zgodna z RODO? Czy jest zgodna z założeniami rozwiązania, które 10 kwietnia ogłosiły Google i Apple? A może założenia aplikacji zmienią się, kiedy w połowie maja technologiczny duet udostępni zapowiadane API? Po jakie jeszcze środki rząd sięgnie, żeby zachęcać obywateli do jej instalowania?

Obserwując działania rządu, które jeszcze nie układają się w spójną strategię walki z pandemią, nie możemy też uciec od pytania o skuteczność aplikacji. Czy to narzędzie nie odwróci uwagi od ważniejszych środków i nie uśpi czujności ludzi?

Kilka dni temu Dziennik Gazeta Prawna poinformował, że sieć aptek Gemini „zaczęła masowo profilować pacjentów”. Specjalna aplikacja ma ułatwić klientom zrealizowanie recepty: sprawdzenie bez wychodzenia z domu, czy poszukiwany zestaw leków jest dostępny w konkretnej aptece, zarezerwowanie go i zainicjowanie przygotowania do odbioru. To brzmi jak realne udogodnienie – szczególnie dla pacjentów, którzy poszukują trudniej dostępnych substancji. Ale ta wygoda ma cenę, i to niebagatelną.

Bez względu na to, czy kibicujemy rozwojowi sztucznej inteligencji i jej obecności „w każdej lodówce”, czy się tego scenariusza obawiamy, jedno możemy przyjąć za pewnik: ta dziedzina wiedzy technicznej, o szerokim zastosowaniu, dopiero się rozkręca i niejednym nas jeszcze zaskoczy. Czekają nas nie tylko kolejne wcielenia „inteligentnych” asystentów i profilowanych usług, ale też coraz szersze wykorzystanie AI do dokonywania wyborów za ludzi lub wspierania ich w obiektywnie trudnych decyzjach: od optymalizacji świadczeń publicznych i zarządzania szpitalami (a nawet planowania indywidualnych programów leczenia) po szacowanie ryzyka (finansowego, powodziowego, epidemiologicznego itd.) i przewidywanie, jak będzie się rozkładać przestępczość na mapach miast lub w ramach konkretnej populacji. Ale bogatsi o doświadczenia ze Stanów Zjednoczonych, gdzie AI w tych wszystkich obszarach już jest obecna, możemy zminimalizować negatywne skutki związane z jej wykorzystaniem – dzięki przygotowaniu odpowiedniej regulacji.

Tydzień temu, nawiązując do publikacji polskiego wydania „Broni matematycznej zagłady” Cathy O’Neil, poprosiliśmy Was o przesłanie (niekoniecznie Waszych) historii, w których ważną rolę graja algorytmy. Publikujemy historie, które przesłał nam pan Jakub Chabik. Jeśli zburzą one Wasz spokój, to dobrze – taki był nasz cel. Nawet jeśli ich nie dostrzegamy, bo przez większość czasu dyskretnie działają w tle, to algorytmy realnie wpływają na nasze życie. Ten wpływ nie musi, ale może się okazać bardzo problematyczny. Czasem to będą błędnie wyciągnięte wnioski na nasz temat spowodowane różnicą w zapisie danych (jak u pana Jakuba), czasem – celowe wykluczenie, oparte o stereotypy lub krzywdzące schematy „zaszyte” w procesach decyzyjnych (jak w świadczeniu pomocy osobom bezrobotnym – takie historie przeczytacie w komentarzach pod tekstem o profilowaniu bezrobotnych).

Nierówności, a nie prywatność – tak chyba najlepiej można streścić książkę Cathy O’Neil pt. Broń matematycznej zagłady. W świecie „po Snowdenie” chyba zbyt często myślimy o tym, że odległe służby inwigilują nas i oglądają nasze nagie fotki. Tymczasem to, co już teraz robią maszyny i komputery, to wprowadzanie systematycznych podziałów na lepszych i gorszych oraz formalizowanie wielu społecznych nierówności.