Technologie oparte na danych nie są neutralne. Decyzje o zbieraniu, analizowaniu i przetwarzaniu konkretnych kategorii informacji są dyktowane czynnikami społecznymi, ekonomicznymi i politycznymi. Takie operacje z wykorzystaniem danych osobowych mogą nie tylko naruszać prywatność, ale też prowadzić do dyskryminacji i pogłębienia wykluczenia już marginalizowanych społeczności. Dyskryminacja, do której prowadzi przetwarzanie danych i wykorzystanie algorytmów, to ogromne wyzwanie dla obrońców praw człowieka, a odpowiedź na nie nie jest oczywista. Raport pt. Between Anti-discrimination and Data (Między przeciwdziałaniem dyskryminacji a danymi) próbuje rzucić na problem nieco światła z perspektywy europejskich organizacji społecznych.

Czym stał się Internet? Dlaczego, próbując korzystać z usług w sieci, niepostrzeżenie stajemy się towarem? Z czego żyją największe cyberkorporacje? Jakie problemy kreują? Kto i kiedy je zatrzyma? Na łamach cyfrowego wydania Tygodnika Polityka Katarzyna Szymielewicz wyjaśnia, jak działa zaplecze Internetu. Wszystkie jej felietony znajdziecie również na stronie Fundacji Panoptykon.

Bez względu na to, czy kibicujemy rozwojowi sztucznej inteligencji i jej obecności „w każdej lodówce”, czy się tego scenariusza obawiamy, jedno możemy przyjąć za pewnik: ta dziedzina wiedzy technicznej, o szerokim zastosowaniu, dopiero się rozkręca i niejednym nas jeszcze zaskoczy. Czekają nas nie tylko kolejne wcielenia „inteligentnych” asystentów i profilowanych usług, ale też coraz szersze wykorzystanie AI do dokonywania wyborów za ludzi lub wspierania ich w obiektywnie trudnych decyzjach: od optymalizacji świadczeń publicznych i zarządzania szpitalami (a nawet planowania indywidualnych programów leczenia) po szacowanie ryzyka (finansowego, powodziowego, epidemiologicznego itd.) i przewidywanie, jak będzie się rozkładać przestępczość na mapach miast lub w ramach konkretnej populacji. Ale bogatsi o doświadczenia ze Stanów Zjednoczonych, gdzie AI w tych wszystkich obszarach już jest obecna, możemy zminimalizować negatywne skutki związane z jej wykorzystaniem – dzięki przygotowaniu odpowiedniej regulacji.

Internet rozczarował tych, którzy szukali w nim odpowiedzi na kryzys demokracji, nierówności społeczne czy tabloidyzację mediów. Okazało się, że w sieci wcale nie jesteśmy lepszym społeczeństwem niż w „realu”, a gigantyczna i wciąż rosnąca podaż informacji ciągnie jej jakość w dół. Internet zdominowały usługi dostarczane przez globalne, działające dla zysku firmy, którym pola musiały ustąpić niekomercyjne społeczności, tworzone oddolnie przez zapaleńców z odpowiednią wiedzą techniczną. Na domiar złego większość firm projektujących cyfrowe usługi wybrała model, w którym za doświadczenie użytkownika płaci reklamodawca. To przypieczętowało nasz los: z obywateli i obywatelek cyfrowego świata zostaliśmy zredukowani do targetu reklamowego – cyfrowej biomasy, mielonej przez algorytmy na profile marketingowe.

Facebook, Google czy Amazon nadal mogłyby korzystać z wiedzy o ludziach, jaką zgromadziły, ale za cenę podzielenia się nią z konkurencją. Brzmi radykalnie? O to chodzi.