Artykuł 13.08.2020 4 min. czytania Tekst Image Sąd apelacyjny w Wielkiej Brytanii wydał w tym tygodniu przełomowy wyrok, w którym uznał za nielegalne wykorzystywanie automatycznego systemu rozpoznawania twarzy przez policję w południowej Walii. Testowany od 2017 r. system był do tej pory wykorzystany ok. 70 razy, m.in. podczas publicznych zgromadzeń i demonstracji. Wyrok w sprawie systemów rozpoznawania twarzy przez walijską policję jest pierwszym tego typu wyrokiem na świecie i – choć wydany w Wielkiej Brytanii – może mieć wpływ na stosowanie tej technologii przez inne państwa. Sąd stwierdził, że system jest nielegalny m.in dlatego, że nie jest jasne, gdzie system może być stosowany i kto może trafić na listę osób do obserwowania. Kluczowe jest to, że sąd nie ograniczył się do stwierdzenia, że technologie automatycznego rozpoznawania twarzy naruszają wyłącznie prawo do prywatności, ale podkreślił, że naruszone jest także prawo do równego traktowania. Nie od dziś wiadomo chociażby, że algorytmy wykorzystywane przez „inteligentne” kamery, trenowane przede wszystkim na zdjęciach białych mężczyzn, o wiele częściej mylą się w przypadku kobiet czy osób o innym niż biały kolorze skóry, prowadząc do dyskryminacji. Sąd stwierdził, że policja nie zadbała o sprawdzenie, czy system nie powiela uprzedzeń. W Fundacji Panoptykon stoimy na stanowisku, że masowe rozpoznawanie twarzy przez państwo z wykorzystaniem kamer opartych na biometrii powinno być zakazane, ponieważ zbyt mocno wkracza w podstawowe prawa obywatelskie. Brytyjski sąd co prawda nie zakazał z góry stosowania takich systemów w przyszłości, ale sformułował wyraźny obowiązek przeprowadzenia analizy algorytmów wykorzystywanych przez inteligentne kamery pod kątem dyskryminacji płciowej i rasowej, przed wdrożeniem systemu, i to nawet wdrożeniem pilotażowym. Ten standard oceny ryzyka powinien być inspiracją dla innych państw. Karolina Iwańska Ten komentarz ukazał się pierwotnie w skróconej wersji na portalu sztucznainteligencja.org.pl. Źródło zdjęcia: bbc.com. Polecamy: Panoptykon: Apelujemy o zakaz masowego rozpoznawania twarzy! Panoptykon 4.0: Kiedy twarz staje się kluczem. Rozmowa z dr Magdaleną Tomaszewską - Michalak Panoptykon: Sztuczna inteligencja pod kontrolą. Europa szykuje przepisy Panoptykon: Przewodnik Sztuczna inteligencja non-fiction Fundacja Panoptykon Autor Temat służby sztuczna inteligencja Poprzedni Następny Newsletter Otrzymuj informacje o działalności Fundacji Twoje dane przetwarza Fundacja Panoptykon w celu promowania działalności statutowej, analizy skuteczności podejmowanych działań i ewentualnej personalizacji komunikacji. Możesz zrezygnować z subskrypcji listy i zażądać usunięcia swojego adresu e-mail. Więcej informacji o tym, jak przetwarzamy twoje dane i jakie jeszcze prawa ci przysługują, w Polityce prywatności. Zapisz się Zapisz się Akceptuję Regulamin usługi Leave this field blank Zobacz także Artykuł Jak rozwiązać problem niekontrolowanej inwigilacji. Konferencja on-line Jaka jest skala inwigilacji w Polsce? Kto jest na nią najbardziej narażony? Kto kontroluje policjantów i służby sięgające po nasze billingi, historie lokalizacji? Zapraszamy na konferencję pod auspicjami Rzecznika Praw Obywatelskich. Zapraszamy w poniedziałek, 22 marca 2021 r., godz. 11.00.… 20.03.2021 Tekst Artykuł Jak Komisja Europejska chce walczyć z treściami terrorystycznymi w sieci? Wszystkie portale będą musiały w ciągu godziny usunąć treści wskazane przez służby, a ponadto samodzielnie przeczesywać swoje zasoby (też za pomocą algorytmów) i się z tego sprawozdawać – to najważniejsze założenia zaprezentowanego kilkanaście dni temu projektu rozporządzenia, którego celem jest… 25.09.2018 Tekst Artykuł Mierząc się z Goliatem. Historia zmagań o kontrolę nad służbami „Pewne ograniczenia w jawności są bezdyskusyjnie konieczne, ale muszą mieć one swoje granice. Bez nich nie powinniśmy spodziewać od służb skuteczności, tylko samowoli. Służby są tajnym, zbrojnym ramieniem państwa i ja to akceptuję, ale dopóki działają wyłącznie w cieniu, bez naszej kontroli,… 09.03.2022 Tekst