Panoptykon 4.0: Zdradzi cię „profilowe”

W skrócie

Prof. Michała Kosińskiego nie trzeba przedstawiać. Kolejne wyniki jego prowokacyjnych badań szeroko komentowane są w świecie naukowym i prasie. W 2019 roku zaprosiliśmy go do podcastu Panoptykon 4.0., żeby jeszcze raz przyjrzeć się aferze z Cambridge Analytica i Facebookiem w rolach głównych. To właśnie jego badania dały naukowe podstawy metodzie wykorzystanej przez politycznych spin doktorów (profilowanie przekazu marketingowego w oparciu o cechy osobowości, które, z pewnym prawdopodobieństwem, da się ustalić na bazie facebookowych lajków). Od tamtego czasu Kosiński nie ustaje w udowadnianiu, że nasza prywatność nie ma szans w zderzeniu z możliwościami analizy dużych zbiorów danych. W głośnym, bo kontrowersyjnym, badaniu z 2018 roku próbował wykazać, że na podstawie cech twarzy człowieka można, z pewnym prawdopodobieństwem, ustalić jego orientację seksualną (sprowadzoną do binarnego podziału na osoby hetero i nieheteronormatywne). W styczniu tego roku w renomowanym periodyku Nature opublikował kolejne badanie, z którego wynika, że na podstawie zmiennych cech ludzkiej twarzy, które można pozyskać ze zdjęcia profilowego na Facebooku, odpowiednio wytrenowany algorytm potrafi, z dużym prawdopodobieństwem, odgadnąć, czy dana osoba identyfikuje się politycznie jako liberał czy konserwatysta. To jeszcze nie to samo, co ustalenie jej rzeczywistych poglądów politycznych, ale już blisko.

Dla krytyków, których nie brakuje również w środowisku naukowym, Kosiński ma, w najlepszym razie, opinię prowokatora, a w najgorszym - cynika, który pod pretekstem ostrzegania przed zagrożeniami, dostarcza niebezpiecznej amunicji do profilowania ludzi, ze względu na wrażliwe i ukryte cechy. Sam Kosiński broni się tym, że on sam nie tworzy kontrowersyjnych algorytmów, a jedynie weryfikuje ich możliwości. Z jednej strony po to, by sprawdzić, ile prawdy jest w zapewnieniach start-upów, które sprzedają inwazyjne narzędzia do profilowania ludzi komercyjnym firmom i służbom specjalnym. Z drugiej, po to, by uświadomić ludziom, jak bardzo stali się przezroczyści dzięki wszechobecnym cyfrowym śladom, przepuszczonym przez zaawansowane metody analizy statystycznej.

Ile prawdy o człowieku kryje się w korelacjach statystycznych, które pokazują badania Michała Kosińskiego? Czy te same zależności potwierdziłyby się poza przebadaną przez Kosińskiego grupą osób aktywnych na portalach społecznościowych i randkowych, które dobrowolnie ujawniły swoją afiliację polityczną? A może mamy do czynienia z kolejnym “skrzywionym” algorytmem, który nauczył się oceniać orientację polityczną człowieka na podstawie kąta padania światła na zdjęciu profilowym albo ustawień aparatu? Kto i w jakich celach wykorzystuje dziś rozpoznawanie ukrytych celach ludzi na podstawie zdjęcia twarzy? Czy służby specjalnie schylają się po takie rozwiązania, ryzykując błędy w ocenie konkretnych ludzi, popadnięcie w społeczne stereotypy i przepalone budżety? Odpowiedzi na te pytania, i wiele innych, w gorącej dyskusji z Michałem Kosińskim szuka Katarzyna Szymielewicz.

Najnowszy odcinek podcastu znajdziesz na naszej stronie, na YouTube'ie, Vimeo lub na portalu TOK FM (tam znajdziesz też automatyczną transkrypcję). Podcast możesz również zasubskrybować za pośrednictwem kanału RSS Panoptykon 4.0.

Komentarze

W ogóle uczestniczenie w czymś takim jak najpopularniejsza społecznościówka jest już formą elektronicznego ekshibicjonizmu. Reszta jest tylko konsekwencją. Jeżeli cokolwiek kupujesz na znanym w Polsce portalu aukcyjnym to ów portal społecznościowy już o tym wie i łączy to z profilem. Jeżeli korzystasz z porównywarek cenowych to ów portal już o tym wie. Kupujesz specyfiki w popularnych aptekach to ów poeral już wie. Kupujesz książki, gazety (prenumerata), odzież to wszystko jest pozyskiwane. Popatrzcie drodzy na ciasteczka z takich niewinnych portali lub odnośniki do konkretnych rzeczy, a jeżeli macie inne możliwości techniczne, np. własny serwer DNS to ilość połączeń do tej społecznościówki czy innego dużego amerykańskiego szpiega, z niewinnych na pozór portali może zaskoczyć. Wysyłanie zdjęć to tylko taka wisienka na torcie takiej społecznościówki.

@Kucharek Jeżeli nawet niektóre organizacje zajmujące się prywatnościa (panoptykon...) funcjonują wyłacznie w korporacyjnych mediach to trudno się dziwić, że tzw. zwykły człowiek tym bardziej idzie tam "gdzie wszyscy są". Prowadzenie narracji, że te media oparte na bigdata są może i złe ale trzeba ich używać bo nic lepszego i tak nie mamy, jest jednym z największych błędów. Oczywiście - trzeba walczyć o rozwiązania prawne, żeby ich złe praktyki w zakresie zbierania danych ukrócić ale poprzestawanie tylko na tym to jest postawa całkowicie defensywna. Trzeba mówić nie tylko o dobrych praktykach ale samemu używać i promować platformy i narzędzia które ich faktycznie używają. Czyli w przypadku mediów społecznościowych, rozwiązania zdecentralizowane, federacyjne takie jak np fediverse: https://en.wikipedia.org/wiki/Fediverse

@miklo. Obawiam się, że niestety mleko się rozlało (już dawno, na starcie, gdy wybrano najbardziej 'optymalny' sposób finansowania internetowej działalności. Raczej nie widzę możliwości zbudowania alternatywnego modelu, bo taki wymaga zaangażowania gigantycznego i _stałego_ źródła finasowania, którego nie ma i nie będzie, bo niby skąd? Sektor prywatny nastawiony jest na 'monetyzację', po najmniejszej linii oporu, czyli wg. bieżącego modelu, chyba że alternatywny system oferowałby możliwość osiągnięcia zysku w analogiczny sposób, czyli big data, lub przez nowe, nie wymyślone jeszcze sposoby 'golenia'. Tzw. 'Państwo' również idzie po najmniejszej linii oporu, opierając się już na istniejącym modelu, bo tak jest najtaniej / najwygodniej / najłatwiej / NAJSZYBCIEJ. I dodaj do tego użytkowników, którzy nauczyli się współżyć z takim pasożytniczym systemem i przyzwyczaili się do niego, bo tak jest również najłatwiej / najszybciej. A to, że czasem coś ich swędzi z tyłu... da się z tym żyć, bo nie jest ani stałe, ani zbytnio uciążliwe (mimo tego, że kosztuje ich dużo więcej, niż im się wydaje). Zatem nie widzę masowej motywacji, która miałaby napędzać alternatywne rozwiązania.
I nawet jeśli odejmiesz czynnik kosztowy (niby w jaki sposób, skoro do każdej zdalnej komunikacji potrzebne jest hardware, a nie telepatia?), to wyobraź sobie, że powstaje 'alternatywny internet', który pozostaje niezależny od instytucji Państwa i od biznesu, przy czym nie da się go podsłuchać, ani w żaden sposób kontrolować, co więcej, staje się, z jakiegoś powodu popularny. Tylko dlaczego miałby stać się popularny, skoro, z moich obserwacji, 99,99% użytkowników ma w d..., że goli się ich dane, od czasu do czasu tylko pomstują na fb, rzecz jasna na fb, który monetyzuje również ich pomstowanie.
Ale rozwijając scenariusz 'alternatywny', najpierw doszłoby do próby skolonizowania systemu alternatywnego przez biznes, który jak najbardziej jest 'za' systemem alternatywnym, ba! - jak najbardziej jest 'za' setką systemów alternatywnych, bo to setka dodatkowych kanałów, gdzie można się ulokować i prowadzić działalność klonując model już istniejący. A tam, gdzie następuje wymiana informacji między dwoma nieznanymi sobie osobami, jest miejsce na sprzedaż i kupno, a zatem na biznes. A nawet _jeśli_ nie byłoby tam faktycznie żadnego potencjału do kolonizacji, sprawą i tak zaczyna się interesować Państwo. Jeśli faktyczne przejęcie jest technicznie niemożliwe, najpierw następuje masowe zohydzenie alternatywnego modelu. Tak robi się z próbami przełamania kontroli, np. np. obrzucając błotem szyfrowanie, czy tor (pedofile! terroryści ! ruscy! pranie pieniędzy! narkotyki! zamach na tradycyjną demokrację!). Zwróć uwagę, że ten czarny PR jest dość niemrawy, ale - moim zdaniem -wyłącznie dlatego, że ilość użytkowników, w porównaniu do całości populacji, to jest to margines marginesu, zupełnie inaczej byłaby, gdyby z szyfrowania korzystała znacząca większość. Ciąg dalszy alternatywnego systemu? Wprowadza się sankcje karne za udział, pod pozorem dobra ogółu / stabilizacji / kontroli nad mową nienawiści / itd., czyli te same argumenty, które słyszałem za komuny, słyszę za demokracji (nie tylko w Polsce, bynajmniej), i pewnie są identyczne w każdym historycznym przykładzie za-mordyzmu. Ogólnie, żaden System nie może sobie pozwolić na utratę monopolu na kontrolę (prawdziwą, częściową, czy nawet iluzoryczną), bo natychmiast traktuje to (całkiem słusznie ;) jako zamach na konieczność swojego własnego istnienia i zrobi wszystko, aby do tego nie dopuścić.

Dodaj komentarz