Už existují: říká se jim datové oběti. Jsou to lidé, kteří se dostali do mlýnů policejního datového průmyslu a vlastními silami již nejsou schopni se z něj dostat. Jen byli písemně informováni o tom, že od té chvíle ohrožují společnost. Tak to vypočítal software. Dvanáctého října měl v Německu premiéru dokumentární film Pre-Crime, jenž se věnuje aktuálním příkladům, kdy se lidé dostali na seznamy sledovaných osob, ačkoli neudělali nic špatného. Jestli jste viděli slavnou sci-fi Stevena Spielberga Minority Report o všemocné a vševidoucí totalitní vládě ve světě roku 2054 – v hlavní roli s Tomem Cruisem, který pracoval jako agent v úřadě, jenž chytal potenciální zločince ještě předtím, než stihli cokoli spáchat, pouze preventivně a na základě předpovědi, že zločin v budoucnu spáchají –, pak vězte, že to nebyla žádná sci-fi, ale tvrdá realita. Něco takového totiž funguje již v roce 2017.

Film Pre-Crime se snaží vysvětlit a obrazně představit, jak se s pomocí softwaru a logaritmů v praxi realizuje takzvané Predictive Policing, jaké technologie za ním stojí a jak se používá v každodenní práci policie. Konkrétně se již používá v Chicagu, ale také ve Filadelfii, v Londýně, Tottenhamu či Mnichově.

U drahých pilotních Pre-Crime projektů jde o předvídání kriminálních činů, které jsou v první řadě zaměřené na násilné trestné činy a vloupání do bytů. To znamená činy, kterých se lidé obzvlášť bojí. Ne všechny softwarové projekty, jež vypočítávají budoucí zločince nebo identifikují problematické zóny, pracují s osobními údaji. Platí to například v případě programu PredPol, o kterém se ve filmu také hovoří. Ve Spojených státech se používá již několik let ve více než 50 městech. Berlínští policisté používají podobný systém (prý bez osobních údajů) s názvem KrimPro, jehož datový model je k nahlédnutí zde, jako součást svobodného přístupu k informacím.

Některé produkty, jako je software Beware, se již nějakou dobu i s osobními údaji používají v Kalifornii. To pro postižené osoby znamená, že se nechtěně stanou součástí softwarového experimentu s daty.

Ve filmu zobrazené příklady lze shrnout jako Predictive Analytics Software. Obecně se jedná o produkty, které se snaží získat vzorce chování z dat v reálném čase a z minulých dat tak, aby se dalo předpovědět budoucí chování. Zcela nevinní lidé jsou trestáni tím, že podle logaritmu skončí na seznamu potenciálních pachatelů. Tady už nehovoříme o vzdálené budoucnosti. Na jednom seznamu potencionálních pachatelů (Heatlist) skončilo více než tisíc lidí s poznámkou, že mají „silné sklony ke kriminalitě“. Jedna oběť ze seznamu se vzhledem k velkým částkám za software, databáze a školení odborníků ptá: „Co všechno se takovými penězi dalo udělat pro oběti trestných činů?“ Otázka zůstala bez odpovědi.

Mnohé z filmu, například Citizen Score, hodně připomíná nápady z totalitní Číny s černými a červenými seznamy, které lidi klasifikují do různých kategorií. O některých projektech se v poslední době psalo častěji, protože programy pod názvem United Information Environment se již řadu měsíců používají. V některých oblastech jsou software, senzory a kamery již digitálně propojené a pomocí analytických nástrojů předpovídají budoucí zločiny.

Americké Chicago tyto technologie do svých čtvrtí již integrovalo. Některé příklady ukazují, jak policejní software v západních zemích spojuje obsáhlé údaje ze sociálních médií a všechny druhy komerčních dat se státními databázemi. Data ze sociálních médií jsou aktivně sledovaná a propojená, o uživateli se vyhodnocují návyky a pohyb. Rozdíl je pouze jeden. Na Západě se z profilování lidí stal také výnosný obchod, který se nabízí jako služba. Dodavatelé prediktivních policejních produktů slibují, že software může určit, kdo bude delikventní a kdo ne. Jedná se totiž o součást jejich marketingu. V propočtech také dochází k různým chybám, rasistické a sociální diskriminaci lidí, kteří nic neprovedli a v podstatě ani nechápou, jak se ocitli na nějakých policejních seznamech.

Dokumentaristé Monika Hielscherová a Matthias Heeder a producent Stefan Kloos se vedle používání softwaru také zabývají stávající monitorovací infrastrukturou na veřejných prostranstvích, jako jsou například policejní kamery v ulicích. Třeba americké Chicago v současné době vykazuje nárůst závažné trestné činnosti. Z tolika dat shromážděných různými způsoby se namísto předpovědi o budoucích zločinech dá spíš vyhodnotit jen jejich pravděpodobnost.

Software na předpovídání zločinu je spíš jen velký příslib, který podporuje kompletní nahrávání a vyhodnocování veškerého digitálního pohybu. Aby se našli potenciální zločinci, stačí jen „vyčmuchat“ skrytá tajemství. Připojení k datům, která shromáždily velké koncerny ve vlastních projektech Predictive-Policingu, již existují. Nyní se již existující datová banka Pre-Crimu naplní informacemi dobrovolně zveřejněnými na sociálních sítích.

Lidé, kteří se ve filmu dostali na policejní seznamy, se vůbec ničím neprovinili. Pouze je obvinil počítačový software z určitého druhu „kontaktní viny“. Stačí, aby váš soused, spolužák, spolupracovník, kamarád, vzdálený příbuzný něco spáchal, nebo naopak byli obětí, a už jste na seznamu sledovaných. Oběti Pre-Crimu se samozřejmě ptají, jak se do osidel policie dostali. Ve filmu je uvedený následující příklad: Jedna osoba znala oběť násilného trestného činu a policejní počítač zjistil, že přátelé této oběti jsou ohroženi kriminalitou. „Kontaktní vina“ působí jako preventivní trest. Ačkoli se dotyčná osoba sama ničeho nedopustila, orgány státní moci ji budou sledovat důkladněji.

Ve Spojených státech existuje nebezpečí, které vypadá dost hrozivě. Každý, kdo je na seznamech označen jako hrozba, představuje v jakékoli interakci akutní riziko konfrontace se střelnými zbraněmi. Jedna oběť Pre-Crimu se ve filmu ptá, proč nikoho nezajímá, že na policejním seznamu může skončit prakticky každý i s celou svojí rodinou. I v tomto případě zůstala otázka bez odpovědi.

Dalších otázek se ale nabízí celá řada. Budou se takto chytat jen zloději bytů a potenciální vrazi, nebo i lidé, kteří si pouze dovolí samostatně myslet? Kde ještě existuje svoboda a demokracie a kde začíná totalita? Jaký je rozdíl mezi demokratickým a totalitním sledováním? V čem se odlišuje sledovaný zločinec s elektronickým náramkem od bezúhonného občana s chytrým telefonem v kapse? Za našimi zády bez jakékoliv diskuse a veřejné kontroly probíhá masivní sledování, sběr a kontrola dat. Naše města a obce jsou stále víc „zamořovány“ čidly, měřidly a kamerami ke „zvýšení bezpečnosti“ a „kvality našeho života“. Kdo a jak tato data kontroluje, vyhodnocuje, nebo dokonce prodává? Víc než cokoli jiného to vypadá, že právě stát a korporace jsou tím pachatelem, který nás okrádá o naše bezpečí, soukromí i svobodu.

Pokud se Vám naše práce líbí, podpořte ji. Objednejte si předplatné tištěného měsíčníku Šifra, jeho digitální verzi nebo kombinaci obojího.

Můžete nás také podpořit dobrovolným příspěvkem.

Jan Běhůnek, homaterapie.cz

Zdroj: https://netzpolitik.org/2017/pre-crime-ueber-menschen-die-ungewollt-teil-von-datenexperimenten-sind/

Diskuze
Sdílejte článek na sociálních sítí: