Algorytmy rządzą naszym życiem

Artykuł
Twarz za ekranem. CC0 Public Domain

Tydzień temu, nawiązując do publikacji polskiego wydania „Broni matematycznej zagłady” Cathy O’Neil, poprosiliśmy Was o przesłanie (niekoniecznie Waszych) historii, w których ważną rolę graja algorytmy. Publikujemy historie, które przesłał nam pan Jakub Chabik. Jeśli zburzą one Wasz spokój, to dobrze – taki był nasz cel. Nawet jeśli ich nie dostrzegamy, bo przez większość czasu dyskretnie działają w tle, to algorytmy realnie wpływają na nasze życie. Ten wpływ nie musi, ale może się okazać bardzo problematyczny. Czasem to będą błędnie wyciągnięte wnioski na nasz temat spowodowane różnicą w zapisie danych (jak u pana Jakuba), czasem – celowe wykluczenie, oparte o stereotypy lub krzywdzące schematy „zaszyte” w procesach decyzyjnych (jak w świadczeniu pomocy osobom bezrobotnym – takie historie przeczytacie w komentarzach pod tekstem o profilowaniu bezrobotnych).

--

Historia pierwsza pochodzi z USA. Luty roku 2001, zostałem parę dni po delegacji, żeby przejechać przepiękną Highway 1 z Los Angeles do San Francisco. Po całym dniu jazdy zajeżdżam do miejscowości Capitola na wybrzeżu Pacyfiku i idę do motelu. Miejsca są, pięćdziesiąt dolarów, OK, chcę płacić. Wyciągam kartę kredytową, recepcjonistka, pani Yrma, przeciąga ją paskiem magnetycznym i oddaje mi. Chwytam kartę i wtedy maszyna zaczyna piszczeć i kątem oka łowię napis „Risk of credit card fraud. Cut the card, call the police”.

Na szczęście już trzymam kartę, ale wtedy robię głupstwo: sięgam do wewnętrznej kieszeni marynarki. Chcę wyciągnąć paszport, ale recepcjonistka wpada w panikę. Robi trzy kroki do tyłu i nerwowo zaczyna szperać po szufladzie. Ale zanim wyciągnie gnata i wyceluje go we mnie, wydobywam paszport. Spokojnie, łagodnym głosem mówię: „Look, to ja. Zdjęcie i moja twarz – to ja. Moje nazwisko i nazwisko na karcie to samo? No więc to ja. To jakieś misunderstanding. Just a misunderstanding”. Ona w międzyczasie znalazła pistolet, ale nie wyciąga go z szuflady. Otrząsa się z emocji, mówi, że ona musi to wyjaśnić. Chce wziąć kartę, ale ja jej nie daję – to jedyna moja karta, gotówki mam tyle, żeby zapłacić za jedzenie, spanie albo samochód – ale nawet nie dwie z tych rzeczy. Uzgadniamy, że pójdę coś zjeść, a ona w tym czasie wyjaśni sprawę. Spisuje dane z karty.

Do dzisiaj widzę siebie siedzącego nad hamburgerem z myślą: czy to ostatni posiłek, jaki jem na amerykańskiej ziemi za własne pieniądze? Czy następny będzie za kratkami na koszt podatnika? Jak wyjaśnię, że nie jestem karcianym oszustem? Jak z Kalifornii, 9 godzin przesunięcia czasu, sprawdzić ważność karty wydanej przez polski bank? Z czego zapłacę za samochód? Do motelu wracam jak skazaniec, widząc samochód policyjny przed wejściem.

Na szczęście okazało się, że z kartą wszystko jest OK. Pani Yrma wita mnie uśmiechem i mówi, że kiedy „z palca” wpisała dane mojej karty do maszyny, wszystko przeszło (dzisiaj zapewne byłoby to niemożliwe). Policjanci krótko i przyjaźnie mnie przesłuchują. Dzisiaj rozumiem, że dali mi spokój także dlatego, że byłem biały, mówiłem dobrym angielskim i jechałem na umówione spotkanie do Krzemowej Doliny. Gdybym był czarny, kaleczył język i nie miał umówionego spotkania w Cupertino, pewnie rozmowa potoczyłaby się inaczej.

Miesiąc później do mojej firmy przychodzą czytniki pasków magnetycznych. Przeciągam moją kartę przez niego i widzę przyczynę: data ważności mojej karty była zapisana jako 01-09-2001, 1 września 2001. Ale Amerykanie piszą datę w postaci miesiąc-dzień-rok. W lutym 2001 dla czytnika karta była więc od miesiąca nieważna. Dobrze, że pani Yrma nie zdążyła wyciągnąć tego pistoletu.

Druga historia pochodzi sprzed dwóch miesięcy. W 2010 r. podpisałem z bankiem umowę kredytu na dom. Jako zabezpieczenie przedstawiłem dwie nieruchomości: kredytowany dom oraz mieszkanie, którego nie sprzedawałem. Jednak wiedząc, że mieszkanie po paru latach sprzedam, w umowie zawarliśmy zobowiązanie banku do zwolnienia zabezpieczenia na mieszkaniu, gdy pozostająca nieruchomość (dom) będzie wystarczającym zabezpieczeniem.

Na początku tego roku udało mi się wreszcie znaleźć kupca na mieszkanie, poszedłem więc do banku, żeby zwolnił zabezpieczenie. Bank odpowiedział na to, że może podjąć taką decyzję dopiero wtedy, gdy będzie miał umowę przedwstępną sprzedaży. Podpisałem więc taką umowę, a kupujący wpłacił mi zadatek, 30 tys. złotych. Sądziłem, że to czysta formalność: kredyt spłacany był wzorowo (ani jednego dnia opóźnienia, ani złotówki niedopłaty), spłacony znacząco ponad wymagane 80% wartości domu (tzw. LTV), nasza zdolność kredytowa znacząco powyżej tej, którą mieliśmy występując o kredyt.

Jakież było nasze zdziwienie, gdy bank zażądał dodatkowej spłaty kredytu (do prawie 60% wartości nieruchomości) oraz dodatkowych zabezpieczeń, a także chciał podwyższyć marżę. Na nasz argument, że przecież w umowie zobowiązali się do zdjęcia zabezpieczenia, odpowiedzieli, że zobowiązanie zapisali, ale ono nie jest wiążące, bo muszą przestrzegać zaleceń własnych modeli matematycznych oceny ryzyka. A także, że Komisja Nadzoru Finansowego wydaje zalecenia, które zobowiązują ich do utrzymania zabezpieczeń, itd. I co prawda nie ujawnią mi ani tych metod, ani tych algorytmów, ani tych regulacji, ale arbitralnie podjęli decyzję o dodatkowych zabezpieczeniach, zaniżeniu wymaganej wartości kredytu do zabezpieczenia oraz o zaniżeniu wyceny mojego domu względem przedstawionej przez rzeczoznawcę. Również na podstawie własnych modeli.

Stanąłem przed alternatywą: albo przyjmę te nowe, gorsze dla mnie warunki, albo nie będę mógł sprzedać mieszkania. A to oznaczałoby konieczność zwrotu zadatku w podwójnej wysokości (60 tys. złotych). Złożyłem jedna i drugą reklamację, ale bank pozostał nieugięty. W efekcie musiałem spełnić ich wymagania, ponosząc konkretne straty finansowe. Sprawa w tej chwili jest u Rzecznika Finansowego, staram się uzyskać jego wsparcie; jeśli mi się uda, skieruję sprawę do sądu.

Może nie są to jakieś spektakularne historie, nikt nie wyrzucił mnie z samolotu, nikt nie odesłał mojego dziecka ze szkoły, nikt nie zablokował mi konta bankowego, uniemożliwiając wypłatę pensji pracownikom. Ale mam świadomość, że powierzając decyzje algorytmom, wystawiamy się na pewne ryzyko. Sam, jako informatyk, żyję w dużej mierze z automatyzacji pewnych powtarzalnych czynności – więc mój stosunek do algorytmizacji procesu decyzyjnego jest zasadniczo pozytywny. Wątpliwość może dotyczyć skali i charakteru decyzji, które komputery podejmuję. Pytanie, czy ryzyko błędnych decyzji jest to większe, czy mniejsze ryzyko niż kiedy te same decyzje były powierzane ludziom, uznaję za otwarte. Nie ma twardych danych, które by to potwierdzały lub temu zaprzeczały.

Autor otrzymał od nas egzemplarz „Broni matematycznej zagłady” Cathy O’Neil, wyd. Wydawnictwo Naukowe PWN, 2017.

Komentarze

Takie "algorytmy" to robota technokratów wyznających "wiarę w statystyki i AI" i tu Pan Chabik chyba oberwał własna bronią. Ja miałem analogiczną przygodę podczas wynajmu samochodu: zapłaciłem karta kredytową za wynajem samochodu (rezerwacja z wyprzedzeniem miesiąca, przed wyjazdem), strona WWW była Polska, operatorem pośrednikiem był rentalcars.com (siedziba w Manchesterze), kolejna płatność w planie to rezerwacja samolotu, niestety mój bank (a konkretnie algorytm wykrywania fałszerstw) zablokował mi kartę bo "uznał, że dwie operacje dokonane w odstępie czasu kilkunastu minut w punktach odległych o ponad tysiąc kilometrów są nie możliwe" i karta została przez algorytm zablokowana. Musiałem czekać na wydanie nowej karty. ....

@Jarek Żeliński: Prosimy o kontakt mailem. Mamy jeszcze kilka egzemplarzy książki Cathy do rozdania :-)

Ciekawi mnie jaka to firma. Z chęcią rozpoczęłabym pracę w firmie informatycznej przy algorytmach (programowanie), wiedząc, że ta firma nie będzie od razu chciała ode mnie zdjęcia twarzy, spisywania niepotrzebnych danych itp. Na prawdę z duża chęcią, bo to co zpotykam w firmach, do których rozsyłam CV po prostu jest karygodne. Żądają nawet imienia rodowego matki. Czy wtedy można w ogóle skłamać, gdy niżej jest bełkot prawny z art. 233 KK pod którym należy się podpisać. Bełkot - bo moim zdaniem na takich dokumentach nie powinno być takich zastraszaczy. To nie zeznanie na policji.

@Jarek Żeliński: Przestań tego g**na plastikowego z czipem używać. Gotówka Ci się sama nie zablokuje i też nie będzie Cię śledzić i budować sobie profili na twój temat, które mogą być wykorzystane w chwili potrzeby wzięcia kredytu. M.in. bo banki bez twojej zgody też handlują tymi danymi. W BZWBK i Millenium Banku zgody na przetwarzanie danych do celów marketingowych same się odblokowują, mimo, że przekreślasz punkt na druku wpłaty/wypłaty zawierający ten punkt. Powinni zabronić ustawowo w ogóle umieszczania takiego zapisu na tych kwitach jako nieważnych prawnie. Gdyby stracili kilkaset złotych w bankach, to polityka ta by się skończyła.

Korzystając z tych banków miałam tą sytuację po 2 razy w ciągu 3 miesięcy. Umowa zakończona, powodu nie pozwolili wpisać do systemu. Stwierdzili, że takiego powodu nie przepiszą do systemu, odmówili też podpisania dokumentu, że odstępuję od umowy, sporządzonego wg mojego wzoru. Nie mam więc prawa rozwiązać umowy po prostu składając oświadczenie?

Trzeba było od razu iść do prawnika, a gdyby bank dalej marudził i uważał że algorytmy anulują umowę niezwłocznie do sądu.

Zgadzając się na ich warunki potwierdziłeś że mają rację i dodałeś kolejną cegiełkę do fundamentu teoretycznego państw i kolonialnego polskiego kapitalizmu.

Dodaj komentarz