Państwa przymykały oczy na szkodliwe działania wielkich platform. Jak to naprawić

Artykuł

16.10.2024

18 min. czytania

Tekst

Zamach stanu. Katastrofa. Wywłaszczenie. Forma tyranii. Roger McNamee, jeden z pierwszych inwestorów Facebooka, który w książce „Zucked” złożył samokrytykę i nie zostawił suchej nitki na modelu biznesowym technologicznych gigantów, tłumaczy, dlaczego brakuje nam języka do opisania przemian, jakich doświadczamy w wyniku zanurzenia w media społecznościowe:

„Mierzymy się z prawdziwą katastrofą, ale nie mamy odpowiednich słów, by ją opisać, bo model biznesowy, który stworzyły Facebook i Google, jest czymś, czego nigdy wcześniej nie widzieliśmy. Te firmy wyspecjalizowały się w manipulowaniu naszą uwagą po to, byśmy coraz więcej czasu spędzali w sieci ich usług. Ten model zarabiania pieniędzy jest bardzo szkodliwy dla naszego zdrowia psychicznego. Jest też zabójczy dla demokracji. Całkowicie odbiera nam prywatność w cyfrowym świecie. Podcina też przedsiębiorczość, ponieważ wielkie firmy technologiczne (…), biorąc na celownik kolejne branże, zakłócają ich działanie w sposób, który niszczy stare i nie wnosi nowych wartości”.
Roger McNamee, autor książki „Zucked”, w rozmowie z The Guardian, 2019

Ta zmiana cywilizacyjna dokonała się zbyt szybko. Ledwie zorientowaliśmy się w jej skutkach, ledwie zaczęliśmy je badać i opisywać, a już wydaje się za późno na redukcję szkód. Mamy do czynienia z poważnym kryzysem na wielu frontach: zdrowia psychicznego, więzi społecznych, zaufania do mediów, jakości debaty publicznej, a w efekcie również demokracji. Obok takiego pakietu problemów nie może dziś przejść obojętnie żaden rząd.

„Nie mamy żadnej kontroli nad tymi procesami, ponieważ na tym rynku [mediów społecznościowych] nie liczymy się jako jednostki. Liczy się tylko możliwość zaobserwowania naszego zachowania. Zostaliśmy wywłaszczeni z wiedzy o nas, jaka z tych obserwacji wynika. To forma tyranii, która ludźmi się żywi, ale nie jest dla ludzi. Paradoksalnie, ten zamach stanu jest świętowany jako „triumf personalizacji”, a przecież kala, ignoruje, unieważnia i wypiera wszystko to, co stanowi o naszej indywidualności”.
Shoshana Zuboff, profesor psychologii społecznej, autorka książki „Wiek kapitalizmu inwigilacji. Walka o przyszłość ludzkości na nowej granicy władzy”, w rozmowie z The Guardian, 2019

Epidemia samotności, którą podsyca machina rekomendacji treści

Przejawy tego kryzysu wychodzą w alarmujących statystykach: ostatnie badanie zachowań ryzykownych wśród młodzieży w Stanach Zjednoczonych wykazało, że ponad połowa nastoletnich dziewcząt odczuwa ciągły smutek lub poczucie beznadziei, co stanowi 36% wzrost w porównaniu z 2011 r.

„Jesteśmy już w jedenastym roku największej w historii epidemii chorób psychicznych wśród nastolatków. Dlaczego tak się dzieje i dlaczego zaczęła się ona tak nagle około 2012 roku? Jest jedna wielka, oczywista, międzynarodowa (…) przyczyna: media społecznościowe” – twierdzi Jonathan Haidt, profesor psychologii społecznej, autor głośnej książki „The Anxious Generation”. Z jego badań wynika, że młodzi ludzie wcale nie czują się w sieci dobrze i mają tego świadomość. W pogłębionych wywiadach deklarują, że woleliby, by TikTok czy Instagram nigdy nie powstały. Ich subiektywna ocena potwierdza to, co na statystycznych próbach widzą badacze: „to wielka ironia mediów społecznościowych: im bardziej się w nie angażujesz, tym bardziej samotny i przygnębiony się stajesz”.

„W epoce mediów społecznościowych skuteczna propaganda nie musi być przekonująca. Chodzi o to, aby przytłoczyć obywatelki i obywateli angażującymi treściami, które zdezorientują, rozbudzą nieufność i gniew. (…) Ta przyszłość właśnie nadeszła”. Zdjęcie: Elyas Pasban | Unsplash

Przyszłość pełna dezinformacji

Czują się również bezradni. Politycy od prawa do lewa narzekają na prywatną cenzurę na platformach internetowych i brutalne reguły internetowego obiegu informacji, które wymuszają na nich błyskawiczne, nasycone emocjami reakcje. Każdy kolejny wynik wyborów umacnia frakcje populistyczne. A jeśli wierzyć ekspertom, będzie tylko gorzej. Były prezes Google Eric Schmidt i Jonathan Haidt, we wspólnym manifeście opublikowanym na łamach The Atlantic, malują przyszłość debaty publicznej w czarnych barwach: „W epoce mediów społecznościowych skuteczna propaganda nie musi być przekonująca. Chodzi o to, aby przytłoczyć obywatelki i obywateli angażującymi treściami, które zdezorientują, rozbudzą nieufność i gniew. (…) Ta przyszłość właśnie nadeszła”.

I nie są w tej opinii odosobnieni. Zdaniem Jacka Dukaja, autora m.in. eseju „Po Piśmie”, koniec wspólnoty politycznej, opartej na wspólnym obrazie świata i zdolności negocjowania wspólnych reguł, już dawno stał się faktem.

Czy da się z tej drogi zawrócić? Skoro wszystkim, od nastolatków po polityków, opłacałoby się wyjście z mediów społecznościowych, żeby przerwać ten wyścig do dna po uwagę, emocje i lajki, dlaczego tego po prostu nie zrobimy? Co nas tam trzyma?

„Geniusz firm technologicznych polegał na tym, że obiecując społeczność, darmową rozrywkę i wygodę, zwabiły nas do kasyna, w którym ciągle przegrywamy, ale nie mamy odwagi lub siły wyjść”.

Złapani w pułapkę

Praca. Szkoła. Zakupy. Potrzeba pozytywnej stymulacji. Potrzeba przynależności. Uzależnienie. FOMO. Lęk przed wykluczeniem. Efekt sieci. Klasyczny dylemat społeczny. Ta lista wydłuża się z każdą kolejną funkcją mediów społecznościowych, do której się przyzwyczajamy. Czy też: jesteśmy przyzwyczajani. Geniusz firm technologicznych polegał na tym, że obiecując społeczność, darmową rozrywkę i wygodę, zwabiły nas do kasyna, w którym ciągle przegrywamy, ale nie mamy odwagi lub siły wyjść. Bo mechanizmom, które do perfekcji opanowali projektanci platform społecznościowych, bardzo trudno przeciwstawić się samotnie.

Agresywne powiadomienia, kuszący przycisk „Podaj dalej”, niekończący się feed stymulujących obrazów, wyskakujące serduszka i smutne emotikony od znajomych – wszystko to jest projektowane tak, by pobudzać ośrodek przyjemności i nagrody w naszym mózgu.

Serwując na przemian bodźce przyjemne i nieprzyjemne, platformy społecznościowe wykorzystują znany z gier hazardowych mechanizm nieregularnego wzmocnienia, który łatwo prowadzi do uzależnienia. Z tego samego powodu ich algorytmy pobijają treści o dużym ładunku emocjonalnym, częściej negatywne niż pozytywne, profilowane pod kątem naszych poglądów, lęków, pragnień i problemów, które nieświadomie ujawniamy, chodząc po sieci. Czy te pułapki na ludzi są skuteczne? Niestety tak, skoro statystycznie zaglądamy na profile w mediach społecznościowych nawet 150 razy dziennie. A około 7 godzin w ciągu doby spędzamy przyklejeni do ekranu.

To fragment specjalnego odcinka podcastu z prezentacją case study „Algorytmy traumy 2”. Posłuchaj całości.

Ta strategia, bardzo problematyczna w wymiarze społecznym i obciążająca dla naszego zdrowia, okazała się genialna w wymiarze ekonomicznym. Bez względu na ceny ropy, kurczące się złoża metali rzadkich, wojny czy pandemie zyski firm technologicznych stale rosną. Wykorzystując siłę grawitacji swoich sieci społecznościowych i ogromny kapitał finansowy, dominujące platformy rozbudowywały swoje imperia, wykupując albo wykańczając konkurencję, zanim ta stała się groźna. A każda kolejna usługa i każdy kolejny milion użytkowników powiększały ich przewagę w biznesie, którego paliwem są dane, a towarem, za który płacą reklamodawcy – ludzka uwaga.

Ludzie i wydawcy grają w pokera, a kasyno zawsze wygrywa

Platformy społecznościowe mają tę przewagę nad gazetami internetowymi, że swoim płacącym klientom mogą zagwarantować tyle wyświetleń, ile pomieści ich budżet reklamowy. Mogą, bo swoich niepłacących użytkowników stawiają przed niemożliwym wyborem: albo zostawiasz budowaną latami sieć społecznościową i usługi, od których cię uzależniliśmy, albo akceptujesz nasze warunki, czyli zgadzasz się na profilowane reklamy i nieustanne śledzenie. Taka wymuszona „zgoda” narusza RODO, ale wytaczane big techom sprawy przed europejskimi sądami ciągną się latami, a kasyno nadal zarabia.

„Zamiast podważać dominującą pozycję big techów na rynku reklamy internetowej, wydawcy pokornie zajęli swoje miejsce w kasynie. Podążając za logiką algorytmów rekomendujących treści, zeszli z jakości publikowanych tekstów i postawili na szybkie, tanie treści, których głównym celem jest generowanie odsłon reklamowych”.

Wydawcy gazet internetowych, walcząc o przetrwanie, przyjęli reguły gry narzucone przez wielkie firmy technologiczne. Zamiast szukać alternatywnego modelu finansowania treści, większość z nich postawiła na „darmowy content” i niepewne zyski z reklam. A te z każdym rokiem topniały, bo reklamodawcy podążali za gwarantowanymi kliknięciami, dostarczanymi przez platformy internetowe. Zamiast podważać dominującą pozycję big techów na rynku reklamy internetowej, wydawcy pokornie zajęli swoje miejsce w kasynie. Podążając za logiką algorytmów rekomendujących treści, zeszli z jakości publikowanych tekstów i postawili na szybkie, tanie treści, których głównym celem jest generowanie odsłon reklamowych (stąd nazwa click-bait).

W zamian wydawcy oczekiwali udziału w zysku z reklam sprzedawanych przez wielkie platformy, argumentując, że to ich treści napędzają ruch. W ostatnich latach większym wydawcom udało się wynegocjować takie umowy z big techami, ale nie zmieniło to nic w układzie sił. Przyklejeni do ekranów użytkownicy przewijają rolki z bezwartościowym contentem, a sfrustrowani pracownicy mediów nie nadążają z produkcją i drżą, że za chwilę zastąpi ich sztuczna inteligencja. Debatę publiczną zastąpił sensacyjny zgiełk, politycy mówią to, co się najlepiej klika, i tylko czasem narzekają na dezinformację, bo wcześniej czy później dopada ona każdego. Powody do zadowolenia mają tylko właściciele kasyna.

Zbyt długo państwa przymykały oko na szkodliwe skutki tego modelu generowania zysku, nie walcząc nawet o odpowiednio wysokie opodatkowanie kasyna. Ale epoka wolnej amerykanki dobiegła końca: przyszedł czas na twarde regulacje i interwencję państwa.

Pobudka w państwach: wyścig o uregulowanie platform

W Stanach Zjednoczonych punktem zwrotnym był rok 2018, kiedy media nagłośniły aferę z udziałem Facebooka i spin doktorów firmy Cambridge Analytica, których działania miały się przyczynić do wygranej Donalda Trumpa. Jak u Hitchcocka – w kolejnych latach napięcie tylko rosło. Kolejne przesłuchania szefów firm technologicznych w Kongresie, kolejne alarmujące książki publikowane przez ludzi z Doliny Krzemowej, kolejne rewelacje sygnalistów (dokumenty ujawnione przez Frances Haugen pokazały, że Meta ma świadomość negatywnego wpływu projektowanych usług na zdrowie psychiczne nastolatków, ale nic z tym nie robi).

Wreszcie, wraz z nastaniem administracji Bidena, krytyka wielkich firm technologicznych z mediów przeniknęła na salony i dostała twarz Liny Khan, nowej przewodniczącej Federalnej Komisji ds. Handlu, agencji odpowiedzialnej za ochronę konsumentów i konkurencji w USA. Objęcie tej ważnej funkcji przez Linę Khan było jak trzęsienie ziemi dla Doliny Krzemowej. Jednym z jej pierwszych działań było ponowne otwarcie postępowania antymonopolowego przeciwko Mecie (dawnemu Facebookowi), zmierzające do rozbicia giganta na mniejsze spółki. Miesiąc później agencja opublikowała raport analizujący setki przejęć dokonanych przez największe firmy technologiczne, które nigdy nie zostały poddane rządowej kontroli. A powinny.

„Po wielu zderzeniach z prawnikami i lobbystami opłacanymi przez wielkie firmy technologiczne Komisja Europejska zrozumiała, że ten przeciwnik stał się zbyt potężny, by wyegzekwować na nim przestrzeganie reguł gry. Stało się jasne, że Europa potrzebuje nowej amunicji, czegoś, co potrząśnie fundamentami internetowych korporacji i ograniczy ich rynkową przewagę”. (Na zdjęciu wyniki głosowania Parlamentu Europejskiego nad aktem o usługach cyfrowych w 2022)

W tym samym czasie również Unia Europejska korygowała swój kurs wobec Doliny Krzemowej, choć na Starym Kontynencie nigdy nie był on tak liberalny, jak za administracji Baracka Obamy. W roku 2018 weszły w życie nowe reguły ochrony danych osobowych (RODO), które w równym stopniu dotyczyły firm europejskich i amerykańskich, o ile tylko oferowały one usługi na obszarze UE. Za praktyki naruszające przepisy RODO firmom z Doliny Krzemowej wytoczono dziesiątki postępowań przed urzędami i sądami. Wiele z nich doprowadziło do kar i wymusiło pewne korekty w zachowaniu technologicznych gigantów. Ale żadna nie spowodowała fundamentalnej zmiany modelu biznesowego, który krytykują cytowani na wstępie Roger McNamee i Shoshana Zuboff. Ale były to ważne lekcje, z których europejska biurokracja wyciągnęła wnioski.

Po wielu zderzeniach z prawnikami i lobbystami opłacanymi przez wielkie firmy technologiczne Komisja Europejska zrozumiała, że ten przeciwnik stał się zbyt potężny, by wyegzekwować na nim przestrzeganie reguł gry. Stało się jasne, że Europa potrzebuje nowej amunicji, czegoś, co potrząśnie fundamentami internetowych korporacji i ograniczy ich rynkową przewagę.

Z tego myślenia zrodził się pakiet regulacji wymierzony precyzyjnie w big techy: akt o usługach cyfrowych (Digital Services Act) i akt o rynkach cyfrowych (Digital Markets Act), przyjęty w 2022 r. Nowe przepisy w stosunku do gigantów technologicznych weszły w życie w 2023 r., a więc zaledwie rok temu. W tym czasie Komisja Europejska otworzyła kilka postępowań, między innymi przeciwko Mecie (za to, że nieskutecznie walczyła z dezinformacją na swojej platformie w okresie kampanii wyborczej do Parlamentu Europejskiego), przeciwko Twitterowi/X (za to, że nie moderuje mowy nienawiści i innych szkodliwych treści) oraz TikTokowi (za wykorzystywanie manipulacyjnych, uzależniających interfejsów). A to dopiero początek.

„Musimy zrobić więcej”. Nowe otwarcie i dochodzenia w Komisji Europejskiej

Starając się o ponowną nominację na stanowisko przewodniczącej Komisji Europejskiej, w lipcu tego roku Ursula von der Leyen mówiła w Parlamencie Europejskim:

„Musimy zrobić więcej, by chronić młodych ludzi. Dzieciństwo i okres dojrzewania to czas, w którym kształtuje się nasz charakter, rozwija się nasza osobowość, a nasz mózg jest kształtowany przez bodźce i emocje. To czas niesamowitego rozwoju, ale także szczególnej podatności na zranienie. Coraz częściej słyszymy o tym, co niektórzy nazywają kryzysem zdrowia psychicznego. Musimy dotrzeć do sedna sprawy.
Wierzę, że media społecznościowe, nadmierny czas spędzany przed ekranem i uzależniające praktyki odgrywają tu pewną rolę. (…) Podejmiemy działania przeciwko uzależniającym funkcjom niektórych platform. I zwołamy pierwsze w historii ogólnoeuropejskie dochodzenie w sprawie wpływu mediów społecznościowych na samopoczucie młodych ludzi. Jesteśmy im to winni”.
Ursula von der Leyen, przemówienie w Parlamencie Europejskim

We wrześniu poznaliśmy nazwiska nowych komisarzy i przypisane im role. Poskramianie wielkich firm technologicznych przewija się w kilku miejscach strategii von der Leyen. Teresa Ribera Rodríguez, jako europejski odpowiednik Liny Khan, ma się skupić na „szybkim egzekwowaniu” reguł ochrony konkurencji. Henna Virkkunen, komisarz ds. suwerenności cyfrowej, ma między innymi zwalczać nieuczciwą reklamę, inwazyjne profilowanie i uzależniające funkcje w usługach internetowych. Ma też wspierać zapowiedziane przez von der Leyen dochodzenie w sprawie wpływu mediów społecznościowych na samopoczucie młodych ludzi. Michael McGrath, komisarz ds. demokracji, sprawiedliwości i rządów prawa, ma walczyć z dezinformacją w sieci i zaproponować dalej idące przepisy chroniące konsumentów przed manipulacyjnymi, uzależniającymi praktykami firm technologicznych.

„Potrząsnąć gigantami technologicznymi i wymusić odpowiedzialne projektowanie usług, tak by przestały szkodzić ludziom. Bez niekończących się rolek, samoczynnie uruchamiających się filmików, agresywnych powiadomień i podbijania treści, które żerują na naszych słabościach”. Zdjęcie znaku reklamowego: Austin Chan | Unsplash

Czy takie działania wystarczą? Na pewno mogą potrząsnąć gigantami technologicznymi i wymusić odpowiedzialne projektowanie usług, tak by przestały szkodzić ludziom. Bez niekończących się rolek, samoczynnie uruchamiających się filmików, agresywnych powiadomień i podbijania treści, które żerują na naszych słabościach. To by było duże zwycięstwo. Ale jeszcze nie zmiana paradygmatu. Jeśli chcemy świata, w którym żaden monopol nie kontroluje dostępu do globalnych sieci społecznościowych, a technologia i dane służą ludziom, to potrzebujemy odważniejszej strategii.

Czy stać nas na niesprawiedliwą gospodarkę cyfrową?

Takiej wizji od nowej Komisji Europejskiej domagają się organizacje zrzeszone w międzynarodowym ruchu People vs Big Tech. W manifeście opublikowanym pod koniec września piszą:

„Wierzymy w świat, w którym ludzie mają wybór między różnymi narzędziami cyfrowymi, dzięki którym mogą odkrywać i komunikować się bez wyrzeczeń dla prywatności i innych przysługujących im praw. Świat, w którym nie jesteśmy zdani na algorytmy zaprojektowane po to, by nas śledzić, żerować na naszych danych i emocjach oraz uzależniać. Świat, w którym mamy kontrolę nad tym, jak wygląda nasz feed w mediach społecznościowych – i możemy tym informacjom zaufać”.
Manifest People vs Big Tech

To wołanie o strategię, która doprowadzi Europę do czegoś, czego jeszcze nie było: sprawiedliwej gospodarki cyfrowej.

Jak tam dojść? Zdaniem autorów manifestu taka strategia potrzebuje dwóch filarów.

Pierwszy z nich to rozbicie wielkich firm technologicznych, tak by osłabić ich monopol i wpuścić etyczną konkurencję. Da się to zrobić, podobnie jak w USA, twardo egzekwując reguły ochrony konkurencji. Unia Europejska może też wymusić na wielkich platformach internetowych interoperacyjność, czyli rozwiązania, które od dawna działają w telefonii komórkowej albo poczcie elektronicznej.

Nie chodzi o to, by zniknęły globalne sieci społecznościowe. Chodzi o to, byśmy mogli się między nimi swobodnie poruszać, nie tracąc znajomych ani dostępu do informacji. Żebyśmy mogli wysłać wiadomość do osoby w innej sieci tak łatwo, jak wysyłamy SMS. Wreszcie – żebyśmy mogli wybrać algorytm, który wybiera dla nas rekomendowane treści spośród wielu godnych zaufania rozwiązań. Jednego dnia taki, który odsiewa dezinformację i serwuje tylko jakościowe dziennikarstwo. Innego dnia taki, który pokazuje śmieszne memy albo to, co akurat czytają bliscy znajomi. Główna różnica polegałaby na tym, że takie preferencje ustawialibyśmy sami, a algorytm by je respektował. A więc pracowałby na nasze zlecenie i w naszym interesie, a nie w interesie reklamodawców.

Brzmi świetnie, ale co będzie, jeśli ta etyczna konkurencja wcale się nie pojawi? Jeśli nowe algorytmy okażą się po staremu przebiegłe, bo ich twórcy też będą chcieli zarobić na naszej uwadze.

Okładka manifestu. Całość na dole tego artykułu (wersja w języku angielskim)

Na to zagrożenie odpowiada drugi postulat manifestu: Unia Europejska powinna wspierać nową i sprawiedliwą gospodarkę cyfrową, bo ta – w warunkach ostrej konkurencji – nie wyrośnie sama. Jeśli chcemy lepszego Internetu: wolnego i otwartego oprogramowania, usług dla ludzi bez śledzenia w pakiecie, jakościowego dziennikarstwa w mediach elektronicznych i algorytmów skutecznie odsiewających dezinformację – to właśnie takie rozwiązania powinniśmy wspierać w zamówieniach publicznych i wszelkiej maści programach dla start-upów. Samo się nie zrobi.

Już wiemy dokąd prowadzi protekcjonistyczna polityka państw w stosunku do firm technologicznych. Jesteśmy w tym miejscu i zbieramy gorzkie żniwo, za które ani same korporacje, ani ich giełdowi udziałowcy nie chcą wziąć odpowiedzialności. Z nowym strategicznym otwarciem w Unii Europejskiej mamy szansę przekonać się, dokąd prowadzi polityka o przeciwnym wektorze. Podatki zamiast ulg. Twarda regulacja i kary zamiast zwolnienia od odpowiedzialności za szkody społeczne. Publiczne pieniądze inwestowane w usługi o dużej wartości społecznej. Czy to nie brzmi rozsądnie?

Tekst pierwotnie ukazał się 30 września 2024 r. w Tygodniku Powszechnym.