Przepisy wspierające innowacje i chroniące przed nadużyciami – tak miała wyglądać unijna regulacja sztucznej inteligencji. Jednak propozycja przedstawiona przez Komisję Europejską 21 kwietnia nie odpowiada na najważniejsze wyzwania związane z rozwojem AI: nie stawia granic dla najbardziej ryzykownych zastosowań AI, nie umożliwia osobom poszkodowanym przez systemy AI dochodzenia swoich praw, nie rozwiązuje problemu czarnych skrzynek, a zamiast niezależnego nadzoru nad taką technologią proponuje pakiet biurokratycznych wymogów. Do tego wiele potencjalnie niebezpiecznych systemów w ogóle jej się wymyka. Przeanalizowaliśmy rozporządzenie o AI pod kątem postulatów, które sformułowaliśmy w czerwcu ubiegłego roku na początku prac nad regulacją.

Superwydajna, nieomylna, pozbawiona ludzkich uprzedzeń – świat oszalał na punkcie sztucznej inteligencji. Czy ten zachwyt jest uzasadniony? A może to zwykły marketingowy kit? Czy też – wręcz przeciwnie – rację mają ci, którzy twierdzą, że AI przejmie kontrolę nad naszym życiem? Rzeczywistość jest nieszczególnie sensacyjna: sztuczna inteligencja to narzędzie w rękach ludzi.

Zamiast realnego zewnętrznego nadzoru nad potencjalnie szkodliwym wykorzystaniem sztucznej inteligencji i narzędzi przejrzystości i kontroli dla ludzi poddanych ich działaniu checklista „do odhaczenia” – to najpoważniejsze zarzuty wobec zaprezentowanego w kwietniu przez Komisję Europejską projektu przepisów mających uregulować tę sferę technologiczną. Organizacje społeczne domagają się zmian w akcie o sztucznej inteligencji (AI Act), – które faktycznie postawią ludzi i ich prawa w centrum. Pod wspólnym stanowiskiem, które stworzyliśmy z naszą europejską siecią European Digital Rights, podpisało się 115 organizacji z całej Unii Europejskiej.

Dzięki publikacjom Zaufanej Trzeciej Strony i Niebezpiecznika (z naszym komentarzem) klienci mBanku dowiedzieli się, że informacje o ich saldzie regularnie trafiają na serwery Gemiusa – zewnętrznej firmy, która dostarcza kompleksowe analizy ruchu na stronie. W odpowiedzi na pytania zadane przez Niebezpiecznik mBank uspokajał, że przekazywane dane pozostają jego własnością i są wykorzystywane tylko w celu dostarczenia zamówionej przez bank usługi. Informacje o saldzie klientów banku podobno w ogóle nie były analizowane przez Gemiusa – „zaplątały” się przypadkiem, jako element nagłówka strony. Można by rzec: drobne niedopatrzenie przy projektowaniu. A więc wszystko w porządku?

Jedno kliknięcie. Chcesz tylko sprawdzić wiadomości… Strona ładuje się błyskawicznie. Dostajesz to, czego szukasz, i jeszcze nienachalną, dobrze skrojoną reklamę. Wygodne buty na wiosnę? W zasadzie czemu nie! Od porannych newsów Twoje myśli zaczynają wędrować w kierunku zakupów. Na ten efekt pracuje cały ekosystem pośredników w handlu danymi. W każdej sekundzie mielą oni nasz cyfrowy łupież, porównują profile, zawierają transakcje. Skąd wiedzą, co lubisz i czego szukasz? Skąd wiedzą, gdzie w sieci można Cię spotkać i na jaki komunikat zareagujesz? Jak wyceniają Twój profil? To nie jest proste. Ale warto poświęcić chwilę, by poznać ten mechanizm. Zapraszamy na zaplecze komercyjnego Internetu.