Kontrowersyjny projekt INDECT

Artykuł

Rzadko się zdarza, że projekt badawczy, zanim nawet wejdzie w fazę testowania, zyskuje tak złą prasę. Internet i media już ochrzciły realizowany z europejskich środków projekt INDECT następcą ACTA. Czy rzeczywiście cokolwiek łączy te dwa akronimy? Skąd tyle kontrowersji? Nie odnosimy się do wszystkich mitów narosłych wokół tego projektu badawczego, ale podsumowujemy nasze zastrzeżenia. 

Co zmienia INDECT?

Skrót INDECT oznacza inteligentny system informacyjny wspierający obserwację, wyszukiwanie i detekcję dla celów bezpieczeństwa obywateli w środowisku miejskim (ang. Intelligent information system supporting observation, searching and detection for security of citizens in urban environment). Jest to międzynarodowy projekt badawczy, finansowany przez Unię Europejską i realizowany przez 17 europejskich partnerów pod przewodnictwem Akademii Górniczo-Hutniczej w Krakowie. Jak twierdzą sami naukowcy, projekt ma na celu "wykorzystanie innowacyjnych algorytmów i metod z zakresu informatyki do wykrywania i walki z terroryzmem oraz innymi działaniami przestępczymi". W wyniku prowadzonych badań ma powstać zestaw narzędzi do inteligentnej obserwacji i automatycznego wykrywania podejrzanych zachowań lub przemocy w środowisku miejskim.

Co to oznacza w praktyce? Badacze zaangażowani w projekt powtarzają, że INDECT nie zakłada stworzenia nowych technik nadzoru i obserwacji. Wyjaśniają, że mamy jedynie do czynienia z pewną innowacją, która usprawni działanie istniejących systemów bezpieczeństwa. "Projekt sprowadzono do hasła >>Wielkiego Brata<<, a przecież w każdym mieście istnieje monitoring i każdy z nas, będąc na ulicy, znajduje się w oku kilku kamer" - przekonywał w rozmowie z Polska The Times rzecznik AGH Bartosz Dembiński. INDECT rzeczywiście nie zwiększy liczby montowanych kamer. Może jednak zasadniczo wpłynąć na ich sposób działania.

Jeśli technologie wypracowane w ramach projektu INDECT trafią na rynek lub zostaną wykorzystane przez policję, systemy monitoringu wizyjnego będą w stanie automatycznie reagować na zachowania zdefiniowane jako niebezpieczne. System będzie sygnalizować operatorowi, że kamera „zobaczyła” coś niepokojącego. Albo „usłyszała”, ponieważ w rozwijanej przez INDECT technologii kamery mają również rejestrować dźwięki. W ramach tak ulepszonego systemu monitoringu kamery będą ze sobą współpracować. Na przykład będą w stanie śledzić osobę, która biegnie albo konkretny samochód. W tej chwili sekwencje wizyjne rejestrowane przez kamery są przechowywane w bazach danych, które mają ograniczone możliwości szybkiego wyszukiwania informacji. INDECT również to ma poprawić. Dla porównania, systemy monitoringu, jakie dziś działają w większości polskich miast, często nie są nawet w stanie poprawnie rejestrować obrazu nocą. Zmiana jakościowa, jaką proponują naukowcy zaangażowani w INDECT, ma zatem duży potencjał.

INDECT to nie tylko nowa jakość w sieciach monitoringu wizyjnego. Inteligentne kamery mają być tylko jednym z elementów infrastruktury potrzebnej do stworzenia czegoś, co badacze nazywają "interaktywną platformą do zbierania danych multimedialnych". Dane przetwarzane w ramach platformy będą  pozyskiwane  z różnych źródeł: przeszukiwanych zasobów sieci Internet, publicznych i policyjnych baz danych, czy właśnie inteligentnych systemów monitoringu. Platforma ma umożliwić integrowanie i szybkie przeszukiwanie wszelkich dostępnych informacji. Być może jest tak, jak przekonują koordynatorzy projektu, że większość rozwijanych technik mających wspierać tę platformę już funkcjonuje. Jednak to INDECT ma ambicje wykorzystać je w ramach jednego spójnego systemu bezpieczeństwa. To zupełnie nowa jakość, a tym samym zupełnie nowa technika nadzoru.

Czy jest się czego bać?

Bardzo trudno przewidzieć, jak technologie i rozwiązania wypracowane w ramach projektu INDECT będą zastosowane w praktyce. Sami badacze i koordynatorzy projektu nie zajmują się tą długofalową perspektywą. Ich zadaniem jest wypracowanie jak najdoskonalszego produktu. To, na ile ten produkt będzie mógł być wykorzystany w zgodzie z obowiązującym prawem i bez uszczerbku dla praw obywateli, będzie zmartwieniem tych, którzy zdecydują się go wdrożyć (np. policji). Brakuje też refleksji nad zagrożeniami, jakie mogą się pojawić, jeśli te technologie znajdą się rękach prywatnych firm, które nie podlegają kontroli demokratycznej. Warto pamiętać, że INDECT nie wyklucza żadnej możliwości praktycznego wykorzystania rozwijanych technologii: po zakończeniu badań, każdy zainteresowany będzie mógł je kupić i przystosować do swoich celów.

Nas - organizację stojącą na straży poszanowania praw człowieka w cyfrowym świecie - najbardziej niepokoi właśnie to, że za publiczne pieniądze rozwijane są narzędzia, które mogą być użyte przeciwko obywatelom, bez refleksji nad tymi zagrożeniami i bez niezależnego nadzoru. W ramach projektu funkcjonuje co prawda Rada Etyki, która ma oceniać potencjalne skutki zastosowania rozwijanych przez INDECT technologii. Nie jest to jednak zewnętrzny "organ kontrolujący", ale wewnętrzne ciało doradcze. Rada nie wnika we wszystkie aspekty projektu – ma za zadanie odpowiadać na pytania i wątpliwości zgłaszane jej przez samych badaczy.

Z naszego punktu widzenia największe zagrożenie dla poszanowania praw człowieka niesie ze sobą kluczowe założenie projektu INDECT, czyli profilowanie społeczeństwa na szeroką skalę. Innowacyjność projektu w dużej mierze opiera się na automatycznym namierzaniu osób niebezpiecznych, czyli stanowiących zagrożenie dla innych lub porządku publicznego. System automatycznego wykrywania zagrożeń ma działać w oparciu o listę „podejrzanych zachowań”, czyli o zdefiniowane profile. Kamery monitoringu mają na przykład reagować na to, że ktoś biegnie ulicą, ponieważ poruszanie się z ponadprzeciętną szybkością zostało zdefiniowane jako zachowanie niestandardowe, a tym samym wymagające wzmożonej obserwacji. Nie oznacza to oczywiście, że jeżeli ktoś uprawia jogging to automatycznie zostanie zatrzymany. Musi się jednak liczyć z tym, że z tego powodu będzie uważniej obserwowany. Dla większości z nas to mało komfortowa sytuacja. W dodatku, jako społeczeństwo, nie mamy wpływu na to, jakie zachowania będą wytypowane jako “podejrzane”. Ze względu na tajemnicę działań operacyjnych, nie dowiemy się też, jakie będą zasady działania algorytmów, które determinują automatyczne reakcje systemu.

Profilowanie nie będzie się jednak ograniczało do tak prostych czynności, jak przyspieszony ruch na ulicy czy gwałtowny ruch ręką. Dzięki wspomnianej platformie integrującej dane z wszelkich dostępnych źródeł, system ma także typować osoby podejrzane o popełnienie przestępstw. Na oficjalnej stronie projektu INDECT możemy przeczytać, że "jeśli policja otrzymała informacje, o przestępstwach popełnianych przez pedofila na danym obszarze, INDECT umożliwi policji wykrycie osób w danej okolicy wykazujących zachowania typowe dla takich przestępców". Czy faktycznie dysponujemy taką wiedzą, która pozwala nam określić precyzyjną listę zachowań typowych dla przestępców seksualnych? Nawet jeśli w konkretnych sytuacjach tworzenie takich modeli może być przydatne, warto się zastanowić, jaką cenę zapłacimy za to, jako społeczeństwo, i jak poradzimy sobie z nieuniknionymi błędami w działaniu tak wyrafinowanego systemu.

Automatyczne profilowanie z zasady jest źródłem nadużyć i pomyłek. Ryzyka i zagrożenia z tym związane ujawniły się we wszystkich znanych systemach opartych na zasadzie profilowania. Dobrym przykładem mogą być amerykańskie no-fly lists. Na takie listy trafiają osoby, które system bezpieczeństwa zakwalifikował jako szczególnie niebezpieczne na podstawie określonych cech, np. zbieżności nazwiska z nazwiskiem osoby podejrzanej o terroryzm. Regularnie zdarza się, że na takie listy trafiają osoby przypadkowe, które w związku z tym nie mogą podróżować samolotem. Żeby doprowadzić do uchylenia zakazu latania, same muszą udowodnić, że są niewinne, co - w braku odpowiednich procedur odwoławczych - okazuje się niezwykle trudne.

Zbytnie zaufanie do nieomylności nowych technologii może też osłabić sam system, który w założeniu miał nam zapewnić bezpieczeństwo. Wielu ekspertów ds. bezpieczeństwa przestrzega, że jeśli służby zaczną polegać w przeważającej mierze na działaniu sztucznej inteligencji i algorytmów, w dłuższej perspektywie zatracą zdolność krytycznego myślenia i stosowania tradycyjnych metod śledczych. A to może prowadzić do skutków odwrotnych do zamierzonych. Tę niebezpieczną tendencję potwierdzają regularne doniesienia o błędach, jakie popełniają służby krajów wykorzystujących ogromne ilości danych i techniki profilowania (USA, Wielka Brytania). Być może dlatego polskie Ministerstwo Spraw Wewnętrznych ogłosiło, że Komenda Główna Policji wycofuje się ze współpracy w ramach projektu INDECT. Na konferencji prasowej minister Jacek Cichocki przyznał, że policja już dysponuje wystarczającymi narzędziami do skutecznej walki z przestępczością i nie potrzebuje kolejnych innowacji.

Żeby dowiedzieć się więcej o naturze dotychczasowej współpracy Komendy Głównej Policji oraz o powodach jej zerwania, zadaliśmy Ministerstwu Spraw Wewnętrznych szereg pytań w trybie dostępu do informacji publicznej. Jak tylko dostaniemy odpowiedź, wrócimy do tematu.

Polecamy również:

Oficjalna strona projektu INDECT

Gazeta Wyborcza: MSWiA wycofuje się z INDECT. Władza przestraszyła się Orwella

Komentarze

jest m.in. to, że tworząc taki projekt nie analizuje się na bieżąco rzeczywistych i potencjalnych zagrożeń dla społeczeństwa. Tu obywatelskiego. (Podbnie jak autor/ka) artykułu z dużą rezerwą podchodzę do umiejętności "samoograniczania się" naukowców.Czemu nie wierzę? Bo bywało, że obietnice były "słodnie", a działania... zabójcze. Np. wynalezienie środków ochrony roślin miało być zbawcze dla zagrożonego głodem świata. Stworzono m.in. herbicydy. I chroniły. Przyśpieszały dojrzewanie. Ułatwiały zbiory. Czy tylko ?Ich wersja "militarna" ("herbicydy tęczowe", ze słynnym Orange Agent na czele) miał zapewnić pokonanie VC. Miały być dla ludzi "nieszkodliwe". Zniszczono dżungle. Ktoś powie: "ot, parę liści".Po czasie stwierdzono bezpośredni związek rozpylania OA z uszkodzeniem i (koszmarną w skutkach) deformacją płodów w łonie matek zamieszkujących na opylanym terenie. Uznano to "za wrogą propagandę".Sprawa stała się głośna dopiero, gdy... zaczęli chorować amerykańscy żołnierze.Skutki (pozaprawnego) wykorzystania możliwości systemu INDECT będą (dla zainteresowanych) dużo mniej zauważalne i praktycznie bez możliwości udowodnienia przez nich jego (INDECT) związku z poniesioną szkodą.A napisano (z czym się zagadzam):"...INDECT nie wyklucza żadnej możliwości praktycznego wykorzystania rozwijanych technologii: po zakończeniu badań, każdy zainteresowany będzie mógł je kupić i przystosować do swoich celów....". Jednym słowem: może go mieć każdy, kogo będzie na niego stać. A czy nas będzie stać na ochronę przed nim ? Jestem pewien, że nie.Z jednej strony pozytywnie można się odnieść się do decyzji o rezygnacji, z drugiej stwierdzenie o tym, że organy ścigania dysponują już ... No właśnie: czym?Pozdrawiam.

Przeklejam całość z ostatniego biuletynu firmy Dipol. (Mam nadzieję, że nie będą mieli za złe, przy okazji polecam ich newsletter - to świetne info na temat systemów inwigilacji wizyjnej)Dear Japan, please stop... W marcu 2012 Hitachi Kokusai Electric podała informację, że stworzono oprogramowanie, które jest w stanie przeszukać bazę danych, składającą się z 36 milionów twarzy i odnaleźć konkretną osobę w ciągu sekundy. Oprogramowanie firmy Hitachi pozwala rozpoznać twarz odchyloną od kamery do 30 stopni, zarówno w pionie jak i w poziomie. To znacząco podnosi efektywność, gdyż rzadko się zdarza, aby poszukiwana osoba „pozowała” do kamery. Zdjęcie twarzy może być wykonane dowolnym urządzeniem. Jedynym warunkiem jest rozmiar twarzy na fotografii wynoszący minimum 40 x 40 pikseli. System, po wskazaniu osoby, automatycznie przeszuka bazę danych utworzoną z zapisanych na dysku nagrań wideo, a następnie wyświetli sceny, na których znajduje się poszukiwany człowiek. Oprogramowanie dedykowane jest dla dużych systemów monitoringu, takich jak: lotniska, dworce kolejowe, centra handlowe, stadiony itp. Duża ilość ludzi przemieszczających się w obszarze widzenia kamer znacząco utrudnia odnalezienie konkretnej osoby, dzięki oprogramowaniu Hitachi staje się to proste i szybkie. Jeżeli w przyszłości miasta zdecydowałyby się na montaż systemu monitoringu, opartego o wymienione oprogramowanie, praktycznie możliwe będzie nadzorowanie wszystkich obywateli. System oprócz zastosowań w monitoringu mógłby znaleźć zastosowanie w marketingu oraz reklamie, gdzie byłby wykorzystany do tworzenia tzw. dedykowanych reklam skierowanych dla ściśle określonych odbiorców, znacznie zwiększając ich efektywność.Prognozuje się, że oprogramowanie, dostępne na rynku od przyszłego roku, stanie się standardowym elementem systemów CCTV.

 1.       „w rozwijanej przez INDECT technologii kamery mają również rejestrować dźwięki” Jest to nieścisłość – nie przewiduje się ciągłego zapisywania dźwięku a jedynie reagowanie na dźwięki wskazujące na zagrożenie (np. odgłos tłuczonego szkła czy wołanie o pomoc). Poza tym, większość sprzedawanych kamer CCTV, posiada mikrofony. 2.       „Inteligentne kamery mają być tylko jednym z elementów infrastruktury potrzebnej do stworzenia czegoś, co badacze nazywają "interaktywną platformą do zbierania danych multimedialnych". Dane przetwarzane w ramach platformy będą  pozyskiwane  z różnych źródeł: przeszukiwanych zasobów sieci Internet, publicznych i policyjnych baz danych, czy właśnie inteligentnych systemów monitoringu. Platforma ma umożliwić integrowanie i szybkie przeszukiwanie wszelkich dostępnych informacji.” Jest to nieprawda. W „Node Station”, czyli w „interaktywnej platformie”, jedyne dane, które są „łączone”, to obraz z kamery i dźwięk z mikrofonu. Jak widać, dokładnie pokazuje to Deliverable D1.2 na stronie 6: http://www.indect-project.eu/files/deliverables/public/D1_2.pdf#page=6. 3.       „Jednak to INDECT ma ambicje wykorzystać je w ramach jednego spójnego systemu bezpieczeństwa.” Jest to nieprawda. Takie coś nigdy nie było celem badań prowadzonych w projekcie INDECT. Taki cel badań nigdzie nie był definiowany w ramach projektu INDECT. 4.       „Brakuje też refleksji nad zagrożeniami, jakie mogą się pojawić,” Przy projekcie działa Rada Etyki, która zajmuje się zarówno respektowaniem zasad etycznych w samych badaniach jak i możliwymi skutkami ewentualnego wdrożenia opracowywanych narzędzi. 5.       „po zakończeniu badań, każdy zainteresowany będzie mógł je kupić i przystosować do swoich celów.” Ze względu na swoją specyfikę naukową, trudno sobie wyobrazić aby opracowywane rozwiązania, mogły podlegać dystrybucji tak jak towar czy usługa masowego użytku, który „każdy zainteresowany może sobie kupić”. 6.       „za publiczne pieniądze rozwijane są narzędzia, które mogą być użyte przeciwko obywatelom” Tego typu zagrożenia przywołują na myśl typowy przykład z nożami kuchennymi, które też mogą być wykorzystane przeciw obywatelom. 7.       „bez refleksji nad tymi zagrożeniami i bez niezależnego nadzoru.” Jak zostało wcześniej powiedziane potencjalne zagrożenia są wskazywane przez Radę Etyki. Projekt proponuje rozwiązania które mają przeciwdziałać ewentualnym zagrożeniom. 8.       „Nie jest to jednak zewnętrzny "organ kontrolujący", ale wewnętrzne ciało doradcze. Rada nie wnika we wszystkie aspekty projektu – ma za zadanie odpowiadać na pytania i wątpliwości zgłaszane jej przez samych badaczy.” W skład Rady Etyki wchodzą osoby spoza konsorcjum projektowego. Fundacja Panoptykon została zaproszona do udziału w Radzie – niestety nie przyjęła zaproszenia. Nie wiadomo na jakiej podstawie pojawia się stwierdzenie że Rada nie wnika we wszystkie aspekty projektu. Poza odpowiedziami na wątpliwości zgłaszane przez badaczy Rada prowadzi działania niezależne od tych wnioskowanych przez badaczy – np. te wynikające z recenzji raportów projektowych czy ‘przesłuchań’ przedstawicieli zespołów badawczych. 9.       „Kamery monitoringu mają na przykład reagować na to, że ktoś biegnie ulicą, ponieważ poruszanie się z ponadprzeciętną szybkością zostało zdefiniowane jako zachowanie niestandardowe, a tym samym wymagające wzmożonej obserwacji.” Jest to nieprawda. Nie są prowadzone badania, które miałyby doprowadzić do powstania kamery, reagującej obserwacją, na tak błahe zachowania jak jogging po ulicy. Szczegółowo opisuje to raport Deliverable D7.5: http://www.indect-project.eu/files/deliverables/public/deliverable-7.5. 10.   „W dodatku, jako społeczeństwo, nie mamy wpływu na to, jakie zachowania będą wytypowane jako “podejrzane”. Ze względu na tajemnicę działań operacyjnych, nie dowiemy się też, jakie będą zasady działania algorytmów, które determinują automatyczne reakcje systemu.” Jest to nieprawda. Jak to jest standardem w każdym publicznym projekcie naukowym, wszystkie szczegóły algorytmów zostały opublikowane, w licznych artykułach, a także we wspomnianym powyżej raporcie Deliverable D7.5. 11.   „Dzięki wspomnianej platformie integrującej dane z wszelkich dostępnych źródeł, system ma także typować osoby podejrzane o popełnienie przestępstw.” Jest to nieprawda. Nie ma prowadzonych tego typu badań. Wspomniana „platforma”, jak już wspomniano wcześniej, nie ma mieć tego typu funkcjonalności. 12.   „Na oficjalnej stronie projektu INDECT możemy przeczytać, że "jeśli policja otrzymała informacje, o przestępstwach popełnianych przez pedofila na danym obszarze, INDECT umożliwi policji wykrycie osób w danej okolicy wykazujących zachowania typowe dla takich przestępców".” Taka interpretacja została sformułowana na początku projektu przez członków Rady Etyki. Faktycznie projekt nie zajmuje się takimi ‘scenariusze’ co zostało wyjaśnione Radzie Etyki – w skutek czego także informacja na stronie projektu została dostosowania do stanu rzeczywistego. 13.   „dysponujemy taką wiedzą, która pozwala nam określić precyzyjną listę zachowań typowych dla przestępców seksualnych” Jest to nieprawda. W projekcie nie są prowadzone badania nad typowaniem przestępców seksualnych na podstawie ich zachowań. Zapewne ktoś przeinaczył opis narzędzia INACT, którego zadaniem jest pomoc w kryminalistyce informatycznej przez analizę materiału dowodowego przy pomocy automatycznej detekcji dziecięcej pornografii oraz zaawansowanego wyszukiwania podobnych obrazów. INACT został szczegółowo opisany w raporcie Deliverable D5.2 na stronie 59: http://www.indect-project.eu/files/deliverables/public/deliverable-5.2#page=61

Dziękujemy za podjęcie polemiki! Tak jak sygnalizowaliśmy w korespondencji mailowej, zależy nam, żeby czytelnicy portalu Fundacji Panoptykon mieli szansę zapoznać się z punktem widzenia osób zaangażowanych w projekt INDECT. Doceniamy niektóre doprecyzowania - dostępne nam teksty na temat projektu INDECT są napisane w specyficznym, naukowo-techniczno-unijnym języku, który okazuje się trudny do przełożenia na "polski". Nie możemy się jednak zgodzić z ogólnym wydźwiękiem tej polemiki: *punkt widzenia* to coś innego niż *dementi*, a stwierdzenie, że powyższy tekst zawiera "nieprawdziwe informacje", jest mocno dyskusyjne.Państwa polemika w dużej mierze opiera się na wyciągnięciu z kontekstu konkretnych fraz i odwołaniu się do zewnętrznych materiałów i dokumentów nieznanych naszym czytelniom po to, żeby sformułować sugestię "to wszystko nieprawda". Takie podejście blokuje możliwość realnej rozmowy. W swoim tekście unikamy kategorycznych stwierdzeń co do faktów. Przekazujemy przede wszystkim nasze oceny - co do samego projektu, jego możliwych zastosowań i ryzyk, jakie diagnozujemy z perspektywy praw człowieka - oparte o naszą najlepszą wiedzę i rozumienie dokumentów, na które Państwo się powołujecie. Uważamy, że mamy do tego prawo. Niech czytelnicy sami ocenią, która ocena i która interpretacja tych samych twierdzeń lub faktów wydaje im się lepiej uzasadniona lub prawdopodobna. Nie zastrzegamy sobie monopolu na prawdę, ale cenimy i pielęgnujemy wolność wypowiedzi.Oto kilka przykładów, gdzie nasze interpretacje, oceny i rozumienie problemu się wyraźnie rozmijają:Ad. 1. Rzeczywiście, użyliśmy słowa "rejestrować" bez doprecyzowania, czy będzie to proces ciągły czy nie. W tekście używamy metafor i skrótów myślowych. Nie traktujmy tej wypowiedzi jak specyfikacji technicznej - to tekst publicystyczny, który rządzi się nieco innymi prawami. Możemy się oczywiście spierać o słówka, ale może warto dostrzec realny problem? W naszej ocenie "reagowanie na dźwięki" wymusza ich przynajmniej chwilową, rejestrację. Przywoływany komentarz na temat "kamer, które słyszą" nie ma na celu szczegółowego opisywania tej technologii, ale zwrócenie uwagi na pewną nową jakość. Nie twierdzimy też, że dziś taka funkcjonalność nie istnieje - wychodzimy natomiast z założenia, że nie jest ona powszechnie stosowana. Jej zastosowanie, jeśli zostanie wykryte (vide casus kamer zamontowanych w Mławie), budzi wręcz silne kontrowersje i często kończy się wycofaniem z tego pomysłu. W obecnym stanie prawnym określone instytucje publiczne (np. straż miejska) mają prawo "obserwowania" i rejestrowania obrazu, natomiast nie mają analogicznych uprawnień w przypadku dźwięku. Ad. 3. W Państwa wypowiedziach, w szczególności profesora Dziecha, jak mantra powraca stwierdzenie, że jeśli coś nie jest wyraźnym "celem badawczym", ale już kwestią "wdrożenia" rezultatów tych badań w praktyce, nie powinniśmy o tym mówić jako o elemencie projektu INDECT. Nasza ocena tych zależności jest diametralnie inna: jeśli technologie wypracowane w ramach projektu coś "umożliwiają" i można ten skutek uznać za atrakcyjny z punktu widzenia potencjalnych odbiorców (w tym wypadku stworzenie spójnego systemu bezpieczeństwa do zastosowania np. na stadionie lub lotnisku), przyjmujemy, że jest to skutek zamierzony (a zatem i cel projektu). Ad. 4. Pozytywnie oceniamy fakt powołania Rady Etyki projektu INDECT, jednak nie jest to dla nas jednoznaczne z prowadzeniem dostatecznie pogłębionej refleksji nad zagrożeniami związanymi z projektem. Symptomatyczne są dla nas w tym kontekście Państwa wypowiedzi  w trakcie spotkania w MSW, z których wyraźnie wynikała chęć zawężenia dyskusji do etapu realizacji projektu i pominięcie tematu skutków wdrażania jego rezultatów w praktyce. Tymczasem właściwie wszystkie zastrzeżenia formułowane pod adresem projektu dotyczą nie etapu badawczego, tylko odpowiedzialności za wypracowywanie narzędzi, których stosowanie w praktyce rodzi tak wiele kontrowersji z punktu widzenia ochrony praw człowieka.Ad. 5. Znowu zarzucacie nam Państwo posługiwanie się dopuszczalnym w tekście publicystycznym skrótem myślowym. Oczywiście: "każdy zainteresowany" z zastrzeżeniem, że znajdzie na to fundusze, że te technologie okażą się przydatne do jego celów i że będzie na tyle zdeterminowany, żeby je wdrożyć. Nie twierdzimy przecież, że będzie to ruch "masowy" i rezultaty INDECT pojawią się w każdym kiosku. Realny problem widzimy natomiast w tym, że rozwijane przez Państwa technologie - które w tym momencie nie podlegają żadnej zewnętrznej kontroli (ze względu na swobodę badań naukowych) i nie są poddawane ocenie z punktu widzenia możliwych zagrożeń dla poszanowania praw człowieka (ze względu na cytowane powyżej podejście "faza wdrożeniowa to nie nasz problem") - będą mogły trafić w ręce prywatnych podmiotów, które w swoich działaniach też nie będą podlegać kontroli demokratycznej. I tyle. A raczej aż tyle.I tak dalej.Fundacja Panoptykon

Dziękujemy za polemikę. Ewidentnie różnimy się językiem, bo dla nas 2+2=4, zawsze.   Odnosząc się jeszcze:   Do punktu trzeciego. „Stworzenie spójnego systemu bezpieczeństwa”. To już zostało powiedziane, ale można powtórzyć. Nie jest prawdą, że celem badań prowadzonych w projekcie INDECT jest stworzenie jednego spójnego systemu bezpieczeństwa. Taki cel badań nigdzie nie był definiowany w ramach projektu INDECT. Mimo to, w Państwa wypowiedziach, takie stwierdzenie też powraca jak mantra.   Do punktu czwartego. „Wypracowywanie narzędzi, których stosowanie w praktyce rodzi tak wiele kontrowersji z punktu widzenia ochrony praw człowieka”. Które konkretnie narzędzia, mogą rodzić kontrowersje z punktu widzenia ochrony praw człowieka? Ochrona danych osobowych (twarzy/tablic rejestracyjnych) w CCTV? Narzędzie informatyczne do analizy kryminalistycznej, nakierowane na wykrywanie treści multimedialnych mających cechy dziecięcej pornografii? Filozofia „monitoringu zagrożeń”, wychwytująca pojawienie się niebezpiecznych narzędzi, bójek czy wejścia pod nadjeżdżający pociąg? Nowe narzędzia kryptograficzne do ochrony danych?   Pozdrawiamy,   Projekt INDECT

Rozumiemy, że powołanie się na formułę matematyczną jest aluzją do tego, że "są na tym świecie prawdy obiektywne". Być może są (trwa poważny spór epistemologiczny;-), ale opinie i interpretacje do nich z pewnością nie należą. Rzeczywiście, nie ma sensu ciągnąć naszej polemiki w tym zakresie: nie tylko różnimy się językiem, ale i podejściem do analizy rzeczywistości. Gwoli jasności: nie jest naszym celem eliminowanie czy ukrywanie sporu o ocenę rzeczywistości, jaki nam się tu zawiązał. Wręcz przeciwnie. Zgodnie z naszą filozofią, konflikt jest twórczy a spór wcale nie musi być zły. Można na niego spojrzeć jak na element wzbogacający rozumienie świata.Co do celów projektu: przecież kilkanaście linijek wyżej wyjaśniamy, że nasze podejście do definiowania celów jest diametralnie inne. Tak, projekt INDECT nie ma oficjalnie na celu stworzenia spójnego systemu bezpieczeństwa; jednak wypracowywane w jego ramach technologie mogą do realizacji takiego celu posłużyć. Dlatego warto brać tę konsekwencję pod uwagę.Wreszcie, co do kontrowersji z punktu widzenia praw człowieka, również jak mantrę powtarzamy, że takie obawy budzi przede wszystkim samo zastosowanie technologii automatycznego wykrywania zagrożeń, ponieważ w praktyce (w zależności od tego, jak zdefiniowany zostanie algorytm) mogą one prowadzić do dyskryminacyjnego traktowania pewnych kategorii osób. To zagrożenie materializuje się w przypadku każdego systemu opartego na profilowaniu zachowań (np. PNR). Osobna sprawa to możliwe naruszenia prawa do prywatności związane z integrowaniem danych w ramach "interaktywnej platformy".Pozdrawiamy,Fundacja Panoptykon

No cóż, lingwiści-pasjonaci będą mieli ręce pełne roboty przy wymyślaniu sztucznych języków...

LAĆ__PAŁĄ.!!! Tylko dobre pałowanie może uzdrowić ten kraj. Dlatego, Ja - jako Minister - od lat postuluję aby przepałować całą Polskę - od morza do Tatr. Gaz, pała i ścieżka zdrowia na komendzie. Każdy Polak powinien poznać smak pały. Pała czyni cuda. Lać, lać i jeszcze raz lać. Ma być bite tak żeby było sine i żeby bolało przez co najmniej miesiąc.

Dodaj komentarz