Korzystanie z systemów automatycznego podejmowania decyzji przez biznes czy instytucje publiczne może mieć różne konsekwencje, w tym również te negatywne, jak np. dyskryminacja. Z tymi problemami chce walczyć niemiecki minister sprawiedliwości, który proponuje stworzenie nowych przepisów regulujących stosowanie algorytmów.

Wyobraź sobie Internet, w którym z eksploatowanego surowca stajesz się klientem. Sam/-a decydujesz o tym, jakie informacje na Twój temat są zbierane i kto może mieć do nich dostęp. Możesz się zgodzić na profilowanie na podstawie zainteresowań czy miejsca zamieszkania, ale informacje o poziomie zarobków czy stanie zdrowia zachować dla siebie. Możesz zaakceptować reklamy sprzętu elektronicznego czy ubrań, a nie chcieć oglądać suplementów diety i pożyczek kuszących „niskim oprocentowaniem”. Żadnej z tych decyzji nie musisz uzasadniać, bo to Twoja prywatność i Twoje prawa. Czy taki świat jest możliwy?

Czy Facebook jest w stanie rozpoznawać i wpływać na nasze emocje? Czy potrafi ustalić nasz typ osobowości, nasze przyzwyczajenia, poglądy, zainteresowania, poziom zarobków? Czy wykorzystuje te informacje, by wyświetlić nam spersonalizowaną reklamę lub sponsorowany post? Oczywiście! Cyfrowe imperium Marka Zuckerberga opiera się na przetwarzaniu naszego „cyfrowego łupieżu” w wiarygodne profile i ich komercjalizowaniu. W tej fabryce nie jesteśmy nawet produktem – jesteśmy ludzką biomasą, która zyskuje kształt i wartość dzięki pracy algorytmów. Jak to działa? Zapraszamy do środka.

Jedno kliknięcie. Chcesz tylko sprawdzić wiadomości… Strona ładuje się błyskawicznie. Dostajesz to, czego szukasz, i jeszcze nienachalną, dobrze skrojoną reklamę. Wygodne buty na wiosnę? W zasadzie czemu nie! Od porannych newsów Twoje myśli zaczynają wędrować w kierunku zakupów. Na ten efekt pracuje cały ekosystem pośredników w handlu danymi. W każdej sekundzie mielą oni nasz cyfrowy łupież, porównują profile, zawierają transakcje. Skąd wiedzą, co lubisz i czego szukasz? Skąd wiedzą, gdzie w sieci można Cię spotkać i na jaki komunikat zareagujesz? Jak wyceniają Twój profil? To nie jest proste. Ale warto poświęcić chwilę, by poznać ten mechanizm. Zapraszamy na zaplecze komercyjnego Internetu.

Dzięki publikacjom Zaufanej Trzeciej Strony i Niebezpiecznika (z naszym komentarzem) klienci mBanku dowiedzieli się, że informacje o ich saldzie regularnie trafiają na serwery Gemiusa – zewnętrznej firmy, która dostarcza kompleksowe analizy ruchu na stronie. W odpowiedzi na pytania zadane przez Niebezpiecznik mBank uspokajał, że przekazywane dane pozostają jego własnością i są wykorzystywane tylko w celu dostarczenia zamówionej przez bank usługi. Informacje o saldzie klientów banku podobno w ogóle nie były analizowane przez Gemiusa – „zaplątały” się przypadkiem, jako element nagłówka strony. Można by rzec: drobne niedopatrzenie przy projektowaniu. A więc wszystko w porządku?

Co różni wybieralnego polityka od nowej marki mydła? W marketingowym wymiarze – niewiele. Oba produkty trzeba wykreować, by móc je potem sprzedać. W obu przypadkach techniki badania opinii i wpływania na procesy decyzyjne ludzi są oparte o te same zasady. Zasadniczej i najpoważniejszej różnicy doświadczamy dopiero po dokonaniu wyboru: jeśli zapach nowego mydła zacznie nas irytować, wyrzucimy je bez wahania; wybrany polityk zostaje z nami na całą kadencję i od tego momentu to on dyktuje zasady gry – i to nie tylko tym, którzy na niego zagłosowali. Czy w związku z tym w świecie politycznego marketingu nie powinny obowiązywać wyższe standardy etyczne i większa przejrzystość?

Komisja Europejska zaprezentowała projekt rozporządzenia, które reguluje ochronę prywatności użytkowników Internetu. Nowymi regułami zostaną objęte nie tylko tradycyjne firmy telekomunikacyjne, ale również WhatsApp, Skype czy Viber.

Zdaniem Rzecznika Praw Obywatelskich (RPO) przepisy dotyczące profilowania bezrobotnych są niekonstytucyjne. Wątpliwości Adama Bodnara wzbudza brak możliwości odwołania się do przydzielonego przez system informatyczny profilu oraz wadliwe podstawy prawne dla przetwarzania danych w trakcie samego procesu. Na wniosek RPO sprawą ma zająć się Trybunał Konstytucyjny. Dla Fundacji Panoptykon to duży sukces – od ponad dwóch lat nieustannie apelujemy o zbadanie profilowania bezrobotnych pod kątem zgodności z konstytucją.