Niedawno pisaliśmy o pesymistycznych konkluzjach płynących z raportu NIK o monitoringu wizyjnym w szkołach. Pokazał on, że kamery nie spełniają swojego zadania jako narzędzia zapewnienia bezpieczeństwa uczniów, ale także ujawnił szereg nieprawidłowości. Najbardziej emocjonujący okazał się przykład szkoły w Puławach, gdzie monitoring zainstalowano… w męskiej toalecie, tuż nad pisuarami. Nie mogliśmy przejść wobec tego przypadku obojętnie.

Czy Facebook jest w stanie rozpoznawać i wpływać na nasze emocje? Czy potrafi ustalić nasz typ osobowości, nasze przyzwyczajenia, poglądy, zainteresowania, poziom zarobków? Czy wykorzystuje te informacje, by wyświetlić nam spersonalizowaną reklamę lub sponsorowany post? Oczywiście! Cyfrowe imperium Marka Zuckerberga opiera się na przetwarzaniu naszego „cyfrowego łupieżu” w wiarygodne profile i ich komercjalizowaniu. W tej fabryce nie jesteśmy nawet produktem – jesteśmy ludzką biomasą, która zyskuje kształt i wartość dzięki pracy algorytmów. Jak to działa? Zapraszamy do środka.

Korzystanie z systemów automatycznego podejmowania decyzji przez biznes czy instytucje publiczne może mieć różne konsekwencje, w tym również te negatywne, jak np. dyskryminacja. Z tymi problemami chce walczyć niemiecki minister sprawiedliwości, który proponuje stworzenie nowych przepisów regulujących stosowanie algorytmów.

Od 1 grudnia opłaty za autostrady będziemy wnosić za pomocą aplikacji mobilnej powiązanej z systemem poboru opłat Krajowej Administracji Skarbowej. Mają zniknąć korki na bramkach. System e-TOLL ma być prosty, tańszy i wygodny w obsłudze, a do tego ma znajdować się w całości pod kontrolą Krajowej Administracji Skarbowej – a nie, jak dotychczas, prywatnej firmy. Pojawiają się jednak pytania: m.in. o to, jakie dane trafią do KAS, a także o to, czy będzie możliwy przejazd płatną autostradą bez instalowania aplikacji, z której dane o lokalizacji będą płynęły do fiskusa niekoniecznie tylko podczas przejazdu płatną drogą.

Przepisy wspierające innowacje i chroniące przed nadużyciami – tak miała wyglądać unijna regulacja sztucznej inteligencji. Jednak propozycja przedstawiona przez Komisję Europejską 21 kwietnia nie odpowiada na najważniejsze wyzwania związane z rozwojem AI: nie stawia granic dla najbardziej ryzykownych zastosowań AI, nie umożliwia osobom poszkodowanym przez systemy AI dochodzenia swoich praw, nie rozwiązuje problemu czarnych skrzynek, a zamiast niezależnego nadzoru nad taką technologią proponuje pakiet biurokratycznych wymogów. Do tego wiele potencjalnie niebezpiecznych systemów w ogóle jej się wymyka. Przeanalizowaliśmy rozporządzenie o AI pod kątem postulatów, które sformułowaliśmy w czerwcu ubiegłego roku na początku prac nad regulacją.