Technologie oparte na danych nie są neutralne. Decyzje o zbieraniu, analizowaniu i przetwarzaniu konkretnych kategorii informacji są dyktowane czynnikami społecznymi, ekonomicznymi i politycznymi. Takie operacje z wykorzystaniem danych osobowych mogą nie tylko naruszać prywatność, ale też prowadzić do dyskryminacji i pogłębienia wykluczenia już marginalizowanych społeczności. Dyskryminacja, do której prowadzi przetwarzanie danych i wykorzystanie algorytmów, to ogromne wyzwanie dla obrońców praw człowieka, a odpowiedź na nie nie jest oczywista. Raport pt. Between Anti-discrimination and Data (Między przeciwdziałaniem dyskryminacji a danymi) próbuje rzucić na problem nieco światła z perspektywy europejskich organizacji społecznych.

Czym stał się Internet? Dlaczego, próbując korzystać z usług w sieci, niepostrzeżenie stajemy się towarem? Z czego żyją największe cyberkorporacje? Jakie problemy kreują? Kto i kiedy je zatrzyma? Na łamach cyfrowego wydania Tygodnika Polityka Katarzyna Szymielewicz wyjaśnia, jak działa zaplecze Internetu. Wszystkie jej felietony znajdziecie również na stronie Fundacji Panoptykon.

Kiedy po raz pierwszy usłyszeliśmy o projekcie „monitoringu totalnego” w Krakowie, nie mieliśmy najmniejszego problemu, żeby wypunktować jego wady. Pomysł na instalowanie kamer na każdej latarni i monitorowania każdego centymetra przestrzeni publicznej to „czysta fantastyka, diagnoza sytuacji – daleka od rzetelnej, obietnice zlikwidowania przestępczości – palcem na wodzie pisane, a koszty i negatywne skutki całej operacji, w tym dla prywatności mieszkańców, niewyobrażalne” – pisaliśmy w naszym pierwszym komentarzu na ten temat. Od tego czasu sporo się zmieniło, bo pod wpływem merytorycznej krytyki kolejne nierealne cele i kontrowersyjne funkcjonalności systemu odchodzą w niebyt. Czy wciąż jest się czego bać?

Bez względu na to, czy kibicujemy rozwojowi sztucznej inteligencji i jej obecności „w każdej lodówce”, czy się tego scenariusza obawiamy, jedno możemy przyjąć za pewnik: ta dziedzina wiedzy technicznej, o szerokim zastosowaniu, dopiero się rozkręca i niejednym nas jeszcze zaskoczy. Czekają nas nie tylko kolejne wcielenia „inteligentnych” asystentów i profilowanych usług, ale też coraz szersze wykorzystanie AI do dokonywania wyborów za ludzi lub wspierania ich w obiektywnie trudnych decyzjach: od optymalizacji świadczeń publicznych i zarządzania szpitalami (a nawet planowania indywidualnych programów leczenia) po szacowanie ryzyka (finansowego, powodziowego, epidemiologicznego itd.) i przewidywanie, jak będzie się rozkładać przestępczość na mapach miast lub w ramach konkretnej populacji. Ale bogatsi o doświadczenia ze Stanów Zjednoczonych, gdzie AI w tych wszystkich obszarach już jest obecna, możemy zminimalizować negatywne skutki związane z jej wykorzystaniem – dzięki przygotowaniu odpowiedniej regulacji.

Internet rozczarował tych, którzy szukali w nim odpowiedzi na kryzys demokracji, nierówności społeczne czy tabloidyzację mediów. Okazało się, że w sieci wcale nie jesteśmy lepszym społeczeństwem niż w „realu”, a gigantyczna i wciąż rosnąca podaż informacji ciągnie jej jakość w dół. Internet zdominowały usługi dostarczane przez globalne, działające dla zysku firmy, którym pola musiały ustąpić niekomercyjne społeczności, tworzone oddolnie przez zapaleńców z odpowiednią wiedzą techniczną. Na domiar złego większość firm projektujących cyfrowe usługi wybrała model, w którym za doświadczenie użytkownika płaci reklamodawca. To przypieczętowało nasz los: z obywateli i obywatelek cyfrowego świata zostaliśmy zredukowani do targetu reklamowego – cyfrowej biomasy, mielonej przez algorytmy na profile marketingowe.