Polityka technologiczna to zadanie dla premiera, nie ministra cyfryzacji

Na początku listopada w Bletchley Park światowe potęgi spotkały się na pierwszym wspólnym szczycie poświęconym etycznej sztucznej inteligencji. Tak często sobie przeciwstawiane, jeśli idzie o model rozwoju, Stany Zjednoczone, Unia Europejska i Chiny zadeklarowały, że będą współpracować w zakresie badań nad bezpieczeństwem sztucznej inteligencji.

Bo – podobnie jak w przypadku broni atomowej – stawką jest nasze wspólne bezpieczeństwo. Parę dni wcześniej wspólne wytyczne dla twórców sztucznej inteligencji wydały państwa grupy G7. A Joe Biden podpisał rozporządzenie, zgodnie z którym sztuczna inteligencja ma być „bezpieczna” i „godna zaufania” również w liberalnych Stanach Zjednoczonych. To czytelne nawiązanie do strategii Unii Europejskiej, która w 2021 r. postawiła na wiarygodność, bezpieczeństwo i technologiczną doskonałość w rozwijaniu AI.

Tymczasem w Polsce polityka cyfrowa była wielką nieobecną wszystkich programów wyborczych z wyjątkiem Lewicy. Tak jakby cały ten hype wokół AI rozgrywał się na innej planecie niż debata polityczna, która utknęła na etapie budowania infrastruktury. Do ilu wsi musimy jeszcze dociągnąć szybki Internet i ile e-usług uruchomić, żeby „dogonić” kraje rozwinięte? Ile miliardów musimy wydać na „innowacje”, żeby nie „zostać w tyle”? To wąska i wypaczona optyka!

Skupieni na celach modernizacyjnych, tracimy z oczu politykę technologiczną, która rozgrywa się w miejscach takich jak Bletchley Park. Jeśli w 2024 r. chcemy mentalnie wrócić do Europy i zasiąść do stołu, przy którym toczy się rozmowa o politycznych wartościach i kierunkach rozwoju, będziemy potrzebować własnej strategii. Spójnej i dojrzałej polityki, która nie zatrzymuje się na światłowodach dociągniętych do każdej wsi, nowych aplikacjach dla obywateli, laptopach dla szkół i piaskownicach dla start-upów. Na strategiczne decyzje rządu czekają dziś sprawy, w których technologia jest narzędziem, nie celem. I to są naprawdę ważne sprawy.

Dobrze zarządzane państwo

Sprawne państwo nie może być ślepe. A tym się kończy silosowe podejście do zarządzania usługami zdrowotnymi, edukacją i świadczeniami społecznymi. ZUS wypłaca zasiłek kobiecie chorej na raka, NFZ finansuje jej leczenie w szpitalu, a o sposobie leczenia decyduje lekarz. Statystycznie pacjentki leczone w ośrodkach specjalistycznych szybciej wracają do zdrowia i na rynek pracy niż te, które zatrzymują się w szpitalach niższego stopnia. A więc państwu opłaca się droższa (a zarazem krótsza) terapia, na której skorzysta też pacjentka i jej rodzina. Ale szpitalowi, do którego trafiła, może się opłacać zatrzymanie onkologicznej pacjentki, bo za jej leczenie z NFZ popłyną większe pieniądze.

Takie nieefektywności, na których wszyscy tracimy, widać w danych, jeśli są łączone i analizowane ponad administracyjnymi silosami. Pomysł na stworzenie systemu, który daje właśnie taki wgląd, pojawił się jeszcze za rządów Platformy Obywatelskiej. W 2022 r. wrócił do niego minister Janusz Cieszyński pod hasłem Zintegrowanej Platformy Analitycznej. Pomysł jest świetny, ale wiele diabłów kryje się w szczegółach. Jednym z nich jest podatność systemu na nadużycia władzy, których popisowy przykład dał minister Adam Niedzielski, nielegalnie pozyskując i ujawniając dane lekarza, z którym był w sporze.

Stać nas na państwo, które tworzy i koryguje swoje polityki w oparciu o dane; które nie musi pytać obywatela o adres i PESEL przy każdej interakcji, bo wie, z kim rozmawia. Barierą nie jest technologia, bo tę od dawna mamy. Prawdziwą barierą jest brak zaufania i brak praworządności.

Bezpieczny obywatel

Przez ostatnie osiem lat słowem kluczem w relacji państwo–obywatel było „ucyfrowienie”. Cyfrowy obywatel ma dowód, paszport covidowy i e-receptę w telefonie. Ma szybki Internet, zaufany profil do kontaktu z administracją i (nareszcie!) automatyczne powiadomienia z ZUS-u, jeśli spóźni się ze składką. Ale czy ma kontrolę nad swoimi danymi? Czy w relacji z państwem może się czuć bezpieczny?

Podmiotowe traktowanie zaczyna się od przyjaznego interfejsu, dzięki któremu możemy z urzędami rozmawiać ludzkim językiem (tu ZUS ma jeszcze przepaść do pokonania), a kończy na kontroli kontrolujących. W demokratycznym państwie powinniśmy mieć możliwość sprawdzenia, kto zaglądał w nasze dane, nawet jeśli to był agent CBA (i nic nie znalazł). W państwie, które dopuszcza samowolę urzędników i sięga po ultrainwazyjne – a tym samym nielegalne – techniki śledzenia takie jak Pegasus, nie będzie społecznego przyzwolenia na integrowanie danych, nawet kiedy przyświeca temu dobry cel. Wystarczy przypomnieć tzw. rejestr ciąż, który w Polsce wzbudził ogromne emocje, a w innej politycznej rzeczywistości przeszedłby niezauważony.

Bezpieczeństwo danych nie sprowadza się do tego, czy wyciekają z baz danych i trafiają w niepowołane ręce. Równie ważne jest to, jak nasze dane wykorzystują osoby powołane do ich zbierania i analizowania: czy rozgrywają dzięki nim partykularne interesy, czy robią politykę publiczną. A przecież chcemy dobrze zarządzanej służby zdrowia, edukacji i opieki społecznej, prawda? Jeśli tak, rozwiązaniem nie jest oślepienie państwa, tylko jego naprawa.

Edukacja do współpracy z technologią

Do szkół publicznych, z których masowo odpływają nauczyciele i wszyscy ci, których stać na prywatną edukację, trafiły rządowe laptopy, e-dzienniki i „Teamsy” (na czas pandemii). Firmy technologiczne ustawiły się w kolejce, żeby do klas i domów wciskać ekrany ze swoim oprogramowaniem, bo tak się zdobywa młodych konsumentów. W pakiecie proponują lekcje „edukacji cyfrowej” i konkursy programowania, bo to ociepla wizerunek.

Polska szkoła cyfryzuje się, ale programowo stoi w miejscu. I nie wspiera dzieci, których równoległe życie toczy się w mediach społecznościowych. Według amerykańskiego rzecznika do spraw zdrowia publicznego (US Surgeon General) skala uzależnienia od smartfonów i kryzysu psychicznego wśród dzieci jest alarmująca. Nadmierne i kompulsywne korzystanie z mediów społecznościowych przekłada się na problemy ze snem i koncentracją oraz wzmaga poczucie wykluczenia i osamotnienia wśród nastolatków. Sytuacja jest naprawdę poważna.

Tymczasem polski system edukacji niszczy w dzieciach kreatywność i krytyczne myślenie, jednocześnie eksponując je na kontakt z ekranem, a więc zwiększając ryzyko uzależnienia. W tych warunkach naprawdę mamy powody martwić się o przyszłość naszych dzieci, bo sztuczna inteligencja w pierwszej kolejności zabierze z rynku pracy rutynowe i odtwórcze zadania, do których przygotowuje dzisiejsza szkoła.

W nowym rozdaniu musimy postawić na miękkie umiejętności i krytyczne myślenie, dzięki którym młodzi ludzie będą w stanie współpracować z technologią. Ich rolą w przyszłości będzie rozpoznawanie tzw. halucynacji AI i trenowanie jej do rozwiązywania złożonych problemów, a nie obliczenia matematyczne i programowanie na poziomie, jakiego może nauczyć szkoła.

Ochrona konsumenta w wersji 2.0

Podmiotowe traktowanie obywatela nie kończy się na jego relacji ze szkołą, szpitalem, ZUS-em i policją. Państwo opiekuńcze nie może tolerować tego, że w równoległym świecie platform internetowych ten sam człowiek jest mielony na cyfrową biomasę, a jego prywatność i uwaga są traktowane jak towar, za który płacą reklamodawcy.

Według Europejskiej Organizacji Konsumenckiej (BEUC) dzisiejszy odbiorca usług internetowych doświadcza „bezprecedensowego pokrzywdzenia”. Nasze doświadczenie w sieci jest w pełni kontrolowane przez firmy technologiczne, a wybory – pozorne. Projektanci interfejsów i algorytmów, które podpowiadają nam małe i duże decyzje, mają do dyspozycji nie tylko neuronaukę i wnioski z ciągłych testów prowadzonych na nieświadomych użytkownikach, ale też wgląd w nasze indywidualne podatności – dzięki śladom, jakie zostawiamy na platformach społecznościowych.

Ten problem narasta od dwóch dekad i jest wielką porażką organów takich jak UODO i UOKiK. Ale też porażką prawodawcy, który powinien był dostosować uprawnienia tych ważnych instytucji i procedury, jakimi muszą się posługiwać, do rynkowych realiów. Polski Internet jest naszpikowany banerami wymuszającymi „zgody” na śledzenie między innymi dlatego, że sądy i regulatorzy rynku rozkładają ręce. Ten imposybilizm można przełamać, reformując wspomniane instytucje, ale też tworząc przyjazne ludziom procedury i biorąc się na poważnie za edukację obywatelską.

Cyfrowa suwerenność

Najczęściej kojarzona z niezależnością od „zagranicznych” (czytaj: pochodzących z państw, którym politycznie nie ufamy) dostawców i lokalizacją serwerów, na których administracja trzyma nasze dane. Ale to czubek góry lodowej. Państwo nie działa w próżni, tylko w świecie, w którym niemal każde działanie, również polityczne, wymaga technologicznej infrastruktury. A tej już od dawna nie kontrolujemy. Jak pisze Luciano Floridi, „w walce wszystkich ze wszystkimi o cyfrową suwerenność, na pierwszy plan wysuwa się starcie firm i państw. I jest to walka nierówna, skoro to firmy projektują, produkują, sprzedają i utrzymują cyfrową infrastrukturę”.

Tę zależność najostrzej widać w czasach kryzysu. W czasie pandemii COVID-19 nie byłoby zdalnej edukacji bez MS Teams ani też aplikacji do ostrzegania przed ryzykiem zakażenia koronawirusem bez Google i Apple. Rosyjska inwazja w Ukrainie również otworzyła szeroko drzwi firmom, które robią w usługach chmurowych, łączności satelitarnej i analizie danych. To wszystko bardzo pięknie, tak długo jak kluczowe funkcje państwa nie zależą od kilku dostawców, a jego zdolność do komunikowania się ze społeczeństwem – od polityki zamkniętych platform internetowych. Nie jest dobrze, kiedy o tym, co dozwolone w kampanii wyborczej, przesądza regulamin Facebooka, a pilne ogłoszenia rządu i sprostowania trafiają w pierwszej kolejności na X (do niedawna Twitter).

Jednym z wyzwań, jakie staną przed nowym rządem, będzie wyplątanie się z tej sieci zależności. W niektórych obszarach wystarczy wynegocjowanie jasnych zasad współpracy z gigantami technologicznymi, ale w tych krytycznych państwo powinno się oprzeć na infrastrukturze, którą faktycznie kontroluje, a nie pożycza.

***

Rozwinięty Zachód i zorientowany na ekspansję Wschód wyraźnie przechodzą od polityki laissez-faire wobec wielkich firm technologicznych do ich regulowania w imię własnych interesów. Polska też może pójść tą drogą, szczególnie z Lewicą w rządzie. Ale to wymaga wyprowadzenia polityki technologicznej poza silos z etykietą „cyfryzacja” i koordynowania jej ponad resortami. Dojrzała polityka technologiczna zaczyna się w momencie, w którym cele modernizacyjne schodzą na drugi plan – jako oczywiste albo zwyczajnie przestarzałe.

Autorka dziękuje Ewie Lis-Jeżak, Krzysztofowi Izdebskiemu i Wojciechowi Klickiemu za konsultację przy tworzeniu tekstu.

Fot. Mateusz Skwarczek