Korzystanie z systemów automatycznego podejmowania decyzji przez biznes czy instytucje publiczne może mieć różne konsekwencje, w tym również te negatywne, jak np. dyskryminacja. Z tymi problemami chce walczyć niemiecki minister sprawiedliwości, który proponuje stworzenie nowych przepisów regulujących stosowanie algorytmów.

Tydzień temu, nawiązując do publikacji polskiego wydania „Broni matematycznej zagłady” Cathy O’Neil, poprosiliśmy Was o przesłanie (niekoniecznie Waszych) historii, w których ważną rolę graja algorytmy. Publikujemy historie, które przesłał nam pan Jakub Chabik. Jeśli zburzą one Wasz spokój, to dobrze – taki był nasz cel. Nawet jeśli ich nie dostrzegamy, bo przez większość czasu dyskretnie działają w tle, to algorytmy realnie wpływają na nasze życie. Ten wpływ nie musi, ale może się okazać bardzo problematyczny. Czasem to będą błędnie wyciągnięte wnioski na nasz temat spowodowane różnicą w zapisie danych (jak u pana Jakuba), czasem – celowe wykluczenie, oparte o stereotypy lub krzywdzące schematy „zaszyte” w procesach decyzyjnych (jak w świadczeniu pomocy osobom bezrobotnym – takie historie przeczytacie w komentarzach pod tekstem o profilowaniu bezrobotnych).

Nierówności, a nie prywatność – tak chyba najlepiej można streścić książkę Cathy O’Neil pt. Broń matematycznej zagłady. W świecie „po Snowdenie” chyba zbyt często myślimy o tym, że odległe służby inwigilują nas i oglądają nasze nagie fotki. Tymczasem to, co już teraz robią maszyny i komputery, to wprowadzanie systematycznych podziałów na lepszych i gorszych oraz formalizowanie wielu społecznych nierówności.

Obowiązki dotyczące transparentności algorytmów wynikające z aktu o usługach cyfrowych (DSA) odnoszą się do wszystkich platform internetowych, nie tylko tych największych. W oficjalnym tłumaczeniu aktu na język polski jest błąd. Zgłosiliśmy go do Komisji Europejskiej. [AKTUALIZACJA]