Artykuł 30.01.2023 16 min. czytania Tekst Image Tytuł Stany i Indie zakazują TikToka za szpiegowanie TikTok wychowuje chińskie dzieci. I uzależnia polskie Chiński rząd ma dostęp do TikToka Czy polski rząd zbanuje TikToka? Potrzebujemy polityki dotyczącej cyberbezpieczeństwa i otwartej komunikacji Unia skontroluje TikToka Tytuł Stany i Indie zakazują TikToka za szpiegowanie TikTok wychowuje chińskie dzieci. I uzależnia polskie Chiński rząd ma dostęp do TikToka Czy polski rząd zbanuje TikToka? Potrzebujemy polityki dotyczącej cyberbezpieczeństwa i otwartej komunikacji Unia skontroluje TikToka Jeszcze niedawno TikTok budził skojarzenia przede wszystkim z niewinnymi filmikami z tańczącymi ludźmi, apetycznym jedzeniem czy uroczymi zwierzątkami. Dziś dyskusja na temat serwisu przybrała znacznie poważniejszy ton. Na blokadęograniczenia w korzystaniu z aplikacji ze względu m.in. na bezpieczeństwo narodowe zdecydowały się Indie i Stany Zjednoczone, ale nie Polska. Coraz głośniej jest również o uzależniającym wpływie aplikacji na użytkowników i użytkowniczki. Tu szansa na odsiecz przychodzi z Unii Europejskiej i nowych regulacji (DSA) dotyczących platform internetowych takich jak TikTok. Stany i Indie zakazują TikToka za szpiegowanie Pod koniec grudnia zeszłego roku media obiegła wiadomość o tym, że platforma społecznościowa TikTok (a w zasadzie ByteDance, czyli firma, do której należy serwis) inwigilowała dziennikarzy i dziennikarki pracujących m.in. dla Financial Timesa i BuzzFeeda. Informacje zostały oficjalnie potwierdzone, a w ramach łagodzenia kryzysu wizerunkowego TikTok zwolnił osoby odpowiedzialne za te działania (rzekomo prowadzone bez wiedzy przełożonych). W trybie awaryjnym firma rozpoczęła także ofensywę lobbingową, której elementem były m.in. spotkania urzędników wysokiego szczebla Komisji Europejskiej z prezeską prezesem Shou Zi Chew. Te reakcje bynajmniej nie uciszyły krytyki, a eksperci, polityczki, urzędnicy i dziennikarki (także w Polsce) o ciemnych stronach działalności platformy piszą i mówią coraz więcej. Naruszenie prywatności dziennikarzy to kolejna kontrowersja związana z chińskim gigantem, który obecnie może pochwalić się już prawie 900 milionami użytkowników i użytkowniczek oraz pozycją jednego z najpopularniejszych portali społecznościowych na świecie. Globalny sukces spowodował, że na platformę uwagę zwróciły zarówno media, jak i politycy. Najwięcej zainteresowania tych ostatnich wzbudzają kwestie bezpieczeństwa informacyjnego, czyli to, co chiński gigant robi z danymi swoich użytkowników. Pod koniec 2022 r. wiele instytucji w USA (m.in. departamenty obrony i bezpieczeństwa oraz 14 stanów) całkowicie zakazało swojemu personelowi używania aplikacji. Podobne zalecenie już w 2020 r. wydała amerykańska armia. Może to oznaczać początek końca serwisu w Stanach, który według Brendana Carra, komisarza FCC (Federalna Komisja Łączności), podzieli los aplikacji w Indiach. Przypomnijmy, że rząd w New Delhi już w 2020 r. zakazał używania TikToka na terenie całego kraju z powodu zagrożenia „suwerenności i integralności” państwa. Te same argumenty przeniknęły również do polskiej debaty publicznej. I choć pełnomocnik rządu ds. cyfryzacji Janusz Cieszyński zapytany 27 grudnia 2022 r. o ewentualne blokowanie aplikacji w Polsce takim planom zaprzeczył, to przyznał, że nasze władze mają świadomość możliwości wykorzystywania danych zbieranych przez serwis przez chińską administrację. TikTok wychowuje chińskie dzieci. I uzależnia polskie Innym głośnym tematem, który budzi dyskusje na całym świecie, jest wpływ TikToka na użytkowników i użytkowniczki, w szczególności dzieci. Model działania innowacyjnego algorytmu (o którego podstawach wiemy m.in. dzięki doniesieniom New York Timesa) w przeciwieństwie do „starych” mediów społecznościowych kieruje się przede wszystkim (niekoniecznie nieświadomymi) preferencjami, a w mniejszym – decyzjami i informacjami, które zamieszczamy w profilu, stronami, które lajkujemy, itp. W rezultacie średni czas spędzany w serwisie jest jeszcze dłuższy niż u konkurencji. Sprawia to, że badacze i badaczki coraz częściej podnoszą argument o silnie uzależniającym charakterze aplikacji, której długotrwałe używanie może negatywnie wpływać na rozwój intelektualny i emocjonalny milionów dzieci na świecie (więcej na ten temat w podcaście Panoptykon 4.0, w którym Katarzyna Szymielewicz rozmawia z Jakubem Olkiem, szefem relacji na Europę Środkową i Wschodnią w TikToku). Pikanterii sprawie dodaje fakt, że w Chinach analogiczna aplikacja firmy ByteDance (formalnie niezależna od swojego globalnego odpowiednika) działa według innych zasad niż w reszcie świata. To, co różni chińską wersję serwisu od tej znanej m.in. w Polsce, to sposób moderowania algorytmu przez osoby działające w imieniu firmy. Na ich decyzje wpływ ma przyjęte jeszcze w 2021 r. prawo, które m.in. ustala limity codziennego korzystania z mediów społecznościowych przez osoby poniżej 14 roku życia do 40 minut czy blokuje aplikację między 10:00 w nocy a 6:00 rano. Kolejną różnicą jest aktywna moderacja treści i rekomendacji. Douyin (bo tak nazywa się TikTok dostępny w Chinach) prowadzi aktywne działania promujące dobre wzorce zachowania, zachęcając użytkowników i użytkowniczki do edukacji, aktywności fizycznej czy bycia przykładnymi obywatelami i obywatelkami. Oczywiście, w chińskim modelu nie chodzi tylko o harmonijny rozwój użytkowników i użytkowniczek, ale także propagandę i o zachowanie kontroli nad procesami społecznymi i politycznymi. Tristan Harris (etyk technologii, założyciel Center for Humane Technology, były pracownik Google’a znany z netfliksowego dokumentu Dylemat społeczny), opisując paradoks „podwójnego życia TikToka” sięga do metaforyki kulinarnej: w Chinach podawany jest jako „szpinak”, podczas gdy poza granicami kraju serwowany jest w formie „opium”. Chiński rząd ma dostęp do TikToka Krytykę TikToka należy podzielić na dwie kategorie: dotyczącą relacji międzynarodowych oraz negatywnych konsekwencji dla samych użytkowników i użytkowniczek. Pierwsza z nich – można nazwać ją geopolityczną – odnosi się do kwestii bezpieczeństwa publicznego, suwerenności informacyjnej czy rywalizacji technologicznej mocarstw. W ostatnich latach toczy się dyskusja o końcu globalnego Internetu i podziale światowej sieci na niezależne od siebie tzw. splinternety nadzorowane przez konkretne państwa lub organizacje ponadnarodowe. Ma to związek z rosnącymi animozjami i konfliktami, w których po jednej stronie stoją kraje Zachodu (USA, UE, kraje członkowskie NATO, ale także Japonia, Australia itd.), zaś po drugiej – państwa takie jak Iran, Rosja czy wymieniane w tym gronie od kilku lat Chiny. Należy zwrócić uwagę na gospodarczy i technologiczny wymiar sprawy. ByteDance jest kolejną firmą technologiczną, która w ostatnim czasie może ucierpieć z powodu „cyfrowej deglobalizacji”. W ostatnich dniach listopada 2022 r. całkowicie zakazała importu i dystrybucji urządzeń jednych z największych chińskich firm: Huawei i ZTE. Politykę odcinania produktów „Made in China” od dostępu do amerykańskiego rynku uzasadnioną zagrożeniem dla bezpieczeństwa narodowego rozpoczęto jeszcze w czasach administracji Donalda Trumpa. Pomimo wielu różnic politycznych dziś podobną linię kontynuuje gabinet Joego Bidena. Te działania można uznać za politykę gospodarczego protekcjonizmu, w którym argumenty bezpieczeństwa narodowego w płynny sposób przenikają się z dążeniem do wspierania amerykańskich firm technologicznych. Równolegle z ograniczeniami dla producentów z Państwa Środka Stany udzielają liczonego w dziesiątkach miliardów dolarów wsparcia amerykańskim firmom technologicznym (np. w sektorze produkcji mikroprocesorów czy aut elektrycznych). Innym istotnym elementem wspierającym rozbrat gospodarek USA i Chin jest także aktywne dążenie Białego Domu do odizolowania Pekinu od możliwości rozwoju w zakresie strategicznych, zaawansowanych technologicznie sektorów. Jaskrawym przykładem tej strategii były działania z października zeszłego roku, kiedy to rząd w Waszyngtonie zakazał handlu nowoczesnymi mikrochipami nie tylko firmom pochodzącym z USA oraz działającym w Stanach, ale także ich partnerom handlowym z całego świata, którzy chcą dalej współpracować w ramach globalnych łańcuchów dostaw. W ramach tego samego rozporządzenia Amerykanie zatrudnieni w tej branży w Chinach otrzymali ultimatum: natychmiastowa rezygnacja z pracy i powrót do kraju albo automatyczna utrata obywatelstwa. To właśnie w tym skomplikowanym międzynarodowym, wywiadowczym i gospodarczym kontekście w USA niektórzy mówią o TikToku jako o koniu trojańskim, sugerując, że dane zbierane przez serwis są lub będą wykorzystywane w celu realizacji interesów Chińskiej Republiki Ludowej. Te twierdzenia, przynajmniej z punktu widzenia prawa, nie są bezpodstawne. W ostatnim czasie elita polityczna Chin dąży do zwiększenia poziomu kontroli nad strategicznie ważnymi firmami – w tym platformami społecznościowymi. Odbywa się to m.in. poprzez przejmowanie tzw. złotych akcji przedsiębiorstw. To instytucja prawna, która pozwala podmiotom publicznym na nadzorowanie i kontrolowanie działania firm, nawet jeśli posiadają w nich mniejszościowy (a nawet czysto symboliczny) pakiet akcji. W ostatnim czasie w ten sposób władze w Pekinie uzyskały kontrolę m.in. nad TikTokiem orazByteDance (właścicielem TikToka i jego chińskiej wersji Douyin-em), Ali Babą. Oznacza to, że firmy, z których usług i systemów korzystają miliardy osób na świecie, kontrolowane są w coraz bardziej bezpośredni sposób przez Komunistyczną Partię Chin. Skutki tego nadzoru mogą być bardzo poważne i naruszać podstawowe prawa obywatelskie. Według raportu Australijskiego Instytutu Polityki Strategicznej Douyin jest używany m.in. do działań propagandowych i inwigilacyjnych skierowanych przeciwko Ujgurom – religijnej i etnicznej mniejszości zamieszkującej północno-zachodnie Chiny. Czy polski rząd zbanuje TikToka? Trudno się dziwić, że takie doniesienia budzą nieufność. W przypadku Polski należy przypomnieć historię byłych pracowników (dyrektora oraz w przeszłości pracującego dla ABW menedżera odpowiedzialnego za cyberbezpieczeństwo) polskiej filii koncernu Huawei, których Agencja Bezpieczeństwa Wewnętrznego aresztowała pod zarzutem szpiegostwa w styczniu 2019 r. Już wtedy komentujący zwracali uwagę na potencjalny związek aresztowań z negocjacjami dotyczącymi wdrożenia w kraju technologii 5G, czyli inwestycji i rynku wartych wiele miliardów złotych. Dyskusja o stopniu ryzyka, które udział m.in. chińskich firm technologicznych może stanowić dla polskiego systemu bezpieczeństwa, wpływa także na polskie prawo. Ustawa o krajowym systemie cyberbezpieczeństwa, która wdrożyć ma w naszym kraju unijną dyrektywę NIS 2, mimo trwających od 2020 r. prac legislacyjnych wciąż nie została uchwalona. Jeden z obszarów, który był przedmiotem sporu, dotyczy modelu prawnego dopuszczającego daną firmę do udziału w projektach (w tym: przetargach, konkursach i innych formach dostarczania sprzętu, oprogramowania czy infrastruktury) strategicznych dla interesów kraju. W dużym skrócie można powiedzieć, że zarówno w Polsce, jak i w innych krajach Wspólnoty ścierają się ze sobą w tym obszarze dwie koncepcje. Według pierwszej z nich (można ją nazwać „unijną”) dostawców trzeba traktować tak samo, niezależnie od kraju pochodzenia, wymagając od nich spełnienia określonych kryteriów z zakresu bezpieczeństwa informacyjnego i technicznego. Druga (można określić ją jako „amerykańską”) dąży do wykluczenia z takich projektów przedsiębiorstw ze względu na kraj pochodzenia. Na początku 2023 r. Rada Ministrów przedstawiła kolejną wersję projektu ustawy, która wydaje się bliska pierwszemu z wymienionych modeli. Potrzebujemy polityki dotyczącej cyberbezpieczeństwa i otwartej komunikacji W naszej ocenie podejście do problemów związanych z TikTokiem trzeba podzielić na dwa zagadnienia. Pierwsze dotyczy działań, które może (lub powinno) podejmować państwo i podległe mu instytucje. Drugie odnosi się do ochrony praw użytkowników jako obywateli i konsumentów Unii Europejskiej. Wątpliwości, które budzą zainteresowanie m.in. amerykańskich, indyjskich czy australijskich decydentów, nie należy bagatelizować. Ta kwestia jest szczególnie ważna z punktu widzenia działania sektora publicznego: urzędów, służb i innych instytucji odpowiedzialnych za wymiar sprawiedliwości, wywiad czy obronność. To obszary, w których największe (i niestety w praktyce często pozbawione skutecznej kontroli obywatelskiej) kompetencje ma władza i podległe jej instytucje. Z tego powodu administracja (centralna, samorządowa czy służby odpowiedzialne za bezpieczeństwo i porządek publiczny) powinna, jeśli uzna zagrożenie za realne, podejmować zgodne z prawem działania dążące do ochrony interesów wspólnoty. Co to oznacza w praktyce? Przede wszystkim możliwość wprowadzenia ograniczeń lub zakazów korzystania z konkretnych aplikacji lub serwisów, np.: na urządzeniach służbowych; na urządzeniach prywatnych pracowników w trakcie lub w miejscu pracy lub pełnienia służby; przez pracowników i pracowniczki, funkcjonariuszy i funkcjonariuszki przez cały okres zatrudnienia lub pełnienia służby; przez osoby niepełnoletnie, np. uczniów w trakcie przebywania na terenie placówki oświatowej lub wychowawczej. Zanim takie kroki zostaną podjęte, władze publiczne powinny jednak wypracować i wdrożyć zrozumiałą oraz spójną politykę względem firm i usług, które z punktu widzenia interesu narodowego czy bezpieczeństwa publicznego uzna za podejrzane. W tym kontekście istotne jest m.in. uchwalenie opisanej wcześniej ustawy o krajowym systemie cyberbezpieczeństwa czy wdrożenie do polskiego systemu prawnego innych regulacji pozwalających na głębszą integrację z modernizowanym europejskim systemem ochrony przed cyberzagrożeniami. Obok działań urzędowych istotna jest także jednoznaczna, przejrzysta i budująca zaufanie komunikacja między władzą a obywatelami (o tym, jak ważnym aspektem zaufania do służb jest komunikacja, posłuchacie w podcaście Panoptykon 4.0, w którym Wojciech Klicki rozmawia z płk. Grzegorzem Małeckim). Według ekspertów z zakresu bezpieczeństwa tylko wtedy w państwach demokratycznych można liczyć na wysoki poziom obywatelskiej rezyliencji – zdolności społeczeństwa do oddolnego, samodzielnego odpierania zewnętrznych zagrożeń. Unia skontroluje TikToka Z punktu widzenia zwykłego obywatela i zwykłej obywatelki, o których prawa walczymy w Panoptykonie, dylematy związane z korzystaniem z TikToka przedstawiają się inaczej. W świetle obowiązujących regulacji każda firma, która oferuje usługi na terenie Unii, musi przestrzegać europejskiego prawa. Państwo, w którym ma główną siedzibę, sposób zarządzania czy struktura kapitałowa przedsiębiorstwa nie mają tu (przynajmniej w teorii) znaczenia. Wynika to m.in. z ważnego dla systemu ochrony danych osobowych transferowanych poza obręb Unii orzeczenia w sprawie Schrems II wydanego przez Trybunał Sprawiedliwości UE w 2020 r. Jego sentencja wskazuje, że dane osobowe Europejczyków w innych krajach muszą być chronione w stopniu proporcjonalnym do wspólnotowego. Podobny pogląd 10 stycznia 2023 r. w sprawie TikToka zaprezentowała także wiceprzewodnicząca Komisji Europejskiej Vera Jourova. Usługi świadczone w Unii Europejskiej przez TikToka regulują zarówno „stare” RODO (GDPR) i „nowy” akt o usługach cyfrowych (DSA). Dla wszystkich globalnych platform internetowych, nie tylko TikToka, prawnym benchmarkiem, jeśli chodzi o zasady przetwarzania danych osobowych, pozostaje RODO (chodzi np. reguły privacy by default i privacy by design ważne dla projektowania interfejsów czy zasady bezpieczeństwa, które nie pozwalają na transfer danych do krajów niegwarantujących adekwatnej ochrony, wynikające z Schrems II). Z kolei DSA chroni konsumentów (np. wyznacza nowy standard przejrzystości dla systemów rekomendujących treści i targetowanych reklam) oraz prawa użytkowników związane z moderacją treści (zarówno w sytuacji, kiedy zgłaszają nielegalne treści, jak i w sytuacji, gdy sami podlegają cenzurze ze strony platformy). Oba rozporządzenia łączy to, że wymagają od firm ciągłej analizy ryzyka. TikTok, jak każda globalna platforma oferująca usługi na obszarze UE, ma zatem obowiązek rozpoznawać zagrożenia, jakie sposób działania aplikacji tworzy dla praw ludzi (np. ochrony ich danych i dostępu do rzetelnych informacji), zdrowia publicznego czy procesów demokratycznych, a także aktywnie im przeciwdziałać. Egzekwowanie Digital Services Act z pewnością uruchomi dyskusję o tym, jak projektować systemy rekomendacyjne (w szczególności algorytmy odpowiedzialne za selekcję treści) tak, by redukować ich negatywny wpływ na cyfrową przestrzeń publiczną. TikTok będzie więc musiał dostosować się do tych reguł i realizować zalecenia niezależnych audytorów oraz samej Komisji Europejskiej (więcej o egzekwowaniu aktu piszemy w tekście DSA i DMA w pigułce). Jeśli tego nie zrobi, Komisja będzie mogła nałożyć na prowadzący serwis Byte Dance kary finansowe. Te ostatnie mogą być ogromne i wynieść nawet do 6% globalnego obrotu firmy, który w 2021 r. sięgnął prawie 60 miliardów dolarów. Polecamy: Panoptykon 4.0: Czy TikTok jest bezpieczny? Rozmowa z Jakubem Olkiem Panoptykon: DSA i DMA w pigułce – co warto wiedzieć o prawie, które ma poskromić cybergigantów Panoptykon: Algorytmy traumy. Sprawdziliśmy, czy możesz kontrolować reklamy na Facebooku Tok FM: TikToka boimy się bardziej niż innych mediów społecznościowych – a wszystkie chcą naszych danych [paywall] The New York Times: How TikTok Reads Your Mind [EN, paywall] Antyweb: Nienawiść, dezinformacja i nawoływanie do przemocy. Moderacja TikToka jest ślepa i głucha na polityczną propagandę The Wall Street Journal: Investigation: How TikTok's Algorithm Figures Out Your Deepest Desires [EN] Wyborcza.pl: Jak TikTok pomaga Pekinowi prześladować muzułmanów w Sinkiangu Accelarate Change: TikTok Suppressing Voting Videos [EN] Działania organizacji w latach 2022-2024 dofinansowane z Funduszy Norweskich w ramach programu Aktywni Obywatele – Fundusz Krajowy. Filip Konopczyński Autor Maria WróblewskaWspółpraca Temat nowy cyfrowy ład media społecznościowe Poprzedni Następny Newsletter Otrzymuj informacje o działalności Fundacji Twoje dane przetwarza Fundacja Panoptykon w celu promowania działalności statutowej, analizy skuteczności podejmowanych działań i ewentualnej personalizacji komunikacji. Możesz zrezygnować z subskrypcji listy i zażądać usunięcia swojego adresu e-mail. Więcej informacji o tym, jak przetwarzamy twoje dane i jakie jeszcze prawa ci przysługują, w Polityce prywatności. Zapisz się Zapisz się Akceptuję Regulamin usługi Leave this field blank Zobacz także Podcast Algorytmy Traumy. Jak Facebook karmi się twoim lękiem Zapraszamy na odcinek specjalny, połączony z premierą badania Fundacji Panoptykon „Algorytmy Traumy 2” we współpracy z Piotrem Sapieżyńskim z Northeastern University. 07.12.2023 Dźwięk Artykuł Donald Trump ponownie na Facebooku? Rada doradcza Facebooka podtrzymała w tym tygodniu podjętą na początku roku decyzję o blokadzie konta Donalda Trumpa. Niewykluczone jednak, że jego konto wróci za jakiś czas do sieci. Długofalowym efektem tej sprawy może być natomiast zaostrzenie zasad moderacji treści pochodzących od „wpływowych… 07.05.2021 Tekst Artykuł Potrzebna pomoc! Musimy zapłacić 9 tys. zł, bo Facebook nie rozumie po polsku Po ponad roku bawienia się w kotka i myszkę z Facebookiem, który nie chciał przyjąć naszego pozwu po polsku, dostaliśmy decyzję sądu: Społeczna Inicjatywa Narkopolityki (organizacja, którą wspieramy w sporze sądowym po wielokrotnym blokowaniu jej kanałów społecznościowych przez platformę) musi… 16.11.2020 Tekst