Korzystanie z systemów automatycznego podejmowania decyzji przez biznes czy instytucje publiczne może mieć różne konsekwencje, w tym również te negatywne, jak np. dyskryminacja. Z tymi problemami chce walczyć niemiecki minister sprawiedliwości, który proponuje stworzenie nowych przepisów regulujących stosowanie algorytmów.

Od 2014 roku staramy się zdobyć od spółki PKP S.A. informacje na temat kamer działających na największych polskich dworcach kolejowych: w Warszawie, Krakowie, Gdańsku, Wrocławiu i Poznaniu. W piątek sąd uchylił decyzję, w której spółka odmawiała udostępnienia tych informacji, zasłaniając się tajemnicą przedsiębiorstwa. Sąd nie zgodził się, by informacje na temat sposobu nagrywania każdego pasażera były arbitralnie utajniane przez firmę. Nie ma powodów, by ukrywać, czy kamery nagrywają dźwięk, kto ma dostęp do nagrań i jak długo są one przechowywane.

Tydzień temu, nawiązując do publikacji polskiego wydania „Broni matematycznej zagłady” Cathy O’Neil, poprosiliśmy Was o przesłanie (niekoniecznie Waszych) historii, w których ważną rolę graja algorytmy. Publikujemy historie, które przesłał nam pan Jakub Chabik. Jeśli zburzą one Wasz spokój, to dobrze – taki był nasz cel. Nawet jeśli ich nie dostrzegamy, bo przez większość czasu dyskretnie działają w tle, to algorytmy realnie wpływają na nasze życie. Ten wpływ nie musi, ale może się okazać bardzo problematyczny. Czasem to będą błędnie wyciągnięte wnioski na nasz temat spowodowane różnicą w zapisie danych (jak u pana Jakuba), czasem – celowe wykluczenie, oparte o stereotypy lub krzywdzące schematy „zaszyte” w procesach decyzyjnych (jak w świadczeniu pomocy osobom bezrobotnym – takie historie przeczytacie w komentarzach pod tekstem o profilowaniu bezrobotnych).

Nierówności, a nie prywatność – tak chyba najlepiej można streścić książkę Cathy O’Neil pt. Broń matematycznej zagłady. W świecie „po Snowdenie” chyba zbyt często myślimy o tym, że odległe służby inwigilują nas i oglądają nasze nagie fotki. Tymczasem to, co już teraz robią maszyny i komputery, to wprowadzanie systematycznych podziałów na lepszych i gorszych oraz formalizowanie wielu społecznych nierówności.

Stanisław Anioł wiedział wszystko o mieszkańcach bloku przy ul. Alternatywy 4, którego był gospodarzem. Dziś mieszkańcy niektórych osiedli są równie przezroczyści, ale nie znają swojego „anioła”.