Analitycy wielkich danych przechwalają się, że umieją wygrać wybory dla kogo chcą. Ile w tym prawdy?

Niedawno pisaliśmy o pesymistycznych konkluzjach płynących z raportu NIK o monitoringu wizyjnym w szkołach. Pokazał on, że kamery nie spełniają swojego zadania jako narzędzia zapewnienia bezpieczeństwa uczniów, ale także ujawnił szereg nieprawidłowości. Najbardziej emocjonujący okazał się przykład szkoły w Puławach, gdzie monitoring zainstalowano… w męskiej toalecie, tuż nad pisuarami. Nie mogliśmy przejść wobec tego przypadku obojętnie.

Czy Facebook jest w stanie rozpoznawać i wpływać na nasze emocje? Czy potrafi ustalić nasz typ osobowości, nasze przyzwyczajenia, poglądy, zainteresowania, poziom zarobków? Czy wykorzystuje te informacje, by wyświetlić nam spersonalizowaną reklamę lub sponsorowany post? Oczywiście! Cyfrowe imperium Marka Zuckerberga opiera się na przetwarzaniu naszego „cyfrowego łupieżu” w wiarygodne profile i ich komercjalizowaniu. W tej fabryce nie jesteśmy nawet produktem – jesteśmy ludzką biomasą, która zyskuje kształt i wartość dzięki pracy algorytmów. Jak to działa? Zapraszamy do środka.

Korzystanie z systemów automatycznego podejmowania decyzji przez biznes czy instytucje publiczne może mieć różne konsekwencje, w tym również te negatywne, jak np. dyskryminacja. Z tymi problemami chce walczyć niemiecki minister sprawiedliwości, który proponuje stworzenie nowych przepisów regulujących stosowanie algorytmów.

Tydzień temu, nawiązując do publikacji polskiego wydania „Broni matematycznej zagłady” Cathy O’Neil, poprosiliśmy Was o przesłanie (niekoniecznie Waszych) historii, w których ważną rolę graja algorytmy. Publikujemy historie, które przesłał nam pan Jakub Chabik. Jeśli zburzą one Wasz spokój, to dobrze – taki był nasz cel. Nawet jeśli ich nie dostrzegamy, bo przez większość czasu dyskretnie działają w tle, to algorytmy realnie wpływają na nasze życie. Ten wpływ nie musi, ale może się okazać bardzo problematyczny. Czasem to będą błędnie wyciągnięte wnioski na nasz temat spowodowane różnicą w zapisie danych (jak u pana Jakuba), czasem – celowe wykluczenie, oparte o stereotypy lub krzywdzące schematy „zaszyte” w procesach decyzyjnych (jak w świadczeniu pomocy osobom bezrobotnym – takie historie przeczytacie w komentarzach pod tekstem o profilowaniu bezrobotnych).