W ostatnich miesiącach prace nad pakietem regulacji wprowadzających nowe zasady funkcjonowania platform internetowych mocno się rozpędziły. Panoptykon działa w tej sprawie zarówno bezpośrednio na poziomie Unii Europejskiej, jak i na poziomie krajowym. W marcu na prośbę Kancelarii Prezesa Rady Ministrów przekazaliśmy rządowi nasze uwagi do części projektu Digital Services Act (DSA). Koncentrujemy się w nich na regulacji reklam oraz systemach rekomendowania i moderacji treści na platformach internetowych.

Przepisy wspierające innowacje i chroniące przed nadużyciami – tak miała wyglądać unijna regulacja sztucznej inteligencji. Jednak propozycja przedstawiona przez Komisję Europejską 21 kwietnia nie odpowiada na najważniejsze wyzwania związane z rozwojem AI: nie stawia granic dla najbardziej ryzykownych zastosowań AI, nie umożliwia osobom poszkodowanym przez systemy AI dochodzenia swoich praw, nie rozwiązuje problemu czarnych skrzynek, a zamiast niezależnego nadzoru nad taką technologią proponuje pakiet biurokratycznych wymogów. Do tego wiele potencjalnie niebezpiecznych systemów w ogóle jej się wymyka. Przeanalizowaliśmy rozporządzenie o AI pod kątem postulatów, które sformułowaliśmy w czerwcu ubiegłego roku na początku prac nad regulacją.

Zamiast realnego zewnętrznego nadzoru nad potencjalnie szkodliwym wykorzystaniem sztucznej inteligencji i narzędzi przejrzystości i kontroli dla ludzi poddanych ich działaniu checklista „do odhaczenia” – to najpoważniejsze zarzuty wobec zaprezentowanego w kwietniu przez Komisję Europejską projektu przepisów mających uregulować tę sferę technologiczną. Organizacje społeczne domagają się zmian w akcie o sztucznej inteligencji (AI Act), – które faktycznie postawią ludzi i ich prawa w centrum. Pod wspólnym stanowiskiem, które stworzyliśmy z naszą europejską siecią European Digital Rights, podpisało się 115 organizacji z całej Unii Europejskiej.

Chodzisz do lekarza? Jeśli jesteś w ciąży lub masz alergię, informacja o tym trafi do Systemu Informacji Medycznej. Ministerstwo Zdrowia chce w ten sposób zmniejszyć ryzyko przepisania pacjentkom leków niewskazanych w ciąży i umożliwić im skorzystanie ze świadczeń w pierwszej kolejności. Ignoruje jednak głosy kobiet, które w obecnej sytuacji prawnej i politycznej żywią uzasadnioną obawę przed nadmierną ingerencją państwa w ich prywatność.

Skandal z używaniem Pegasusa przez polskie służby jeszcze do końca nie wybrzmiał, więc być może czeka nas ujawnienie nazwisk kolejnych zaatakowanych osób. Mimo skandalu służby działają tak, jak gdyby nic się nie działo.