autorstwa Johna W. I Nisha Whitehead
Musiałeś żyć — żyłeś, z nawyku, który stał się instynktem — zakładając, iż każdy dźwięk, który wydajesz, jest podsłuchiwany, a poza ciemnością każdy ruch jest poddawany uważnie. —George Orwell, 1984
Podczas gdy Amerykanie pozostają zafascynowani politycznym cyrkiem — wiwatują na cześć swojej preferowanej partii, wyśmiewają opozycję, obsesyjnie analizują każde wykreowane oburzenie i czekają na kolejny spektakl — Państwo Nadzoru kontynuuje swój nieustanny marsz naprzód.
Obserwuje, dokąd idziesz, kogo spotykasz, gdzie czcisz, jakie przychodnie odwiedzasz, w jakich wiecach politycznych uczestniczysz, w jakich protestach uczestniczysz, jakie książki czytasz, jakie strony odwiedzasz i jakie sprawy wspierasz.
Obserwuje przez twój telefon, samochód, dzwonek do drzwi, sprzęt AGD, zakupy, konta w mediach społecznościowych oraz kamery rozmieszczone wzdłuż codziennych drog.
Tak umiera wolność w cyfrowym państwie policyjnym: nie zawsze przez dramatyczne ogłoszenia stanu wojennego czy żołnierzy rozmieszczonych na każdym rogu, ale przez stopniowe budowanie technologicznej sieci — elektronicznego obozu koncentracyjnego — tak wszechobecnego, iż prywatność staje się niemożliwa, a anonimowość podejrzana.
Na scenę wkracza Flock Safety, prywatna firma technologiczna z branży nadzoru, której automatyczne czytniki tablic rejestracyjnych rozprzestrzeniły się w tysiącach amerykańskich społeczności.
Te kamery, które robią znacznie więcej niż tylko fotografują tablice rejestracyjne, stanowią kolejną ewolucję partnerstwa rządowego w zakresie nadzoru publicznego i prywatnego.
Dokumentują czas i miejsce każdego przejeżdżającego pojazdu oraz rejestrują cechy charakterystyczne takie jak marka, model, kolor, uszkodzenia, bagażniki dachowe, naklejki na zderzaki i inne charakterystyczne cechy. Te informacje można następnie umieścić w przeszukiwalnej bazie danych i wykorzystać do śledzenia ruchów pojazdu w czasie.
Jednak prawdziwa siła — i prawdziwe zagrożenie — Flock nie pochodzi wyłącznie z kamer.
Pochodzi od sztucznej inteligencji.
Aparat może sfotografować samochód. Platforma Flock oparta na sztucznej inteligencji może zidentyfikować i sklasyfikować pojazd, porównać obserwację z zapisanymi dokumentami, generować alerty, identyfikować powiązania i pomagać policji w odtworzeniu miejsca, w którym pojazd się znajdował.
To AI przekształca fotografię w fundamenty podejrzanego społeczeństwa.
Dzięki AI każdy kierowca staje się punktem danych. Każdy punkt danych staje się wzorcem. I każdy wzorzec staje się podejrzeniem.
W ten sposób zwykłe ruchy stają się potencjalnie podejrzane i poddane kontroli rządu. Pozwala organom porządkowym przeszukiwać nie tylko pełny numer rejestracyjny, ale także częściowe tablice i opisy fizyczne, takie jak kolor pojazdu, marka, model, uszkodzenia, bagażniki dachowe, naklejki na zderzaki i inne cechy charakterystyczne.
Policjant może poprosić system o zlokalizowanie każdego czerwonego pickupa z drabiną widzianego w pobliżu protestu, każdego pojazdu, który wielokrotnie odwiedzał dany adres lub każdego samochodu zaobserwowanego przemierzającego między dwoma lokalizacjami.
Sztuczna inteligencja zajmuje się sortowaniem. Baza danych dostarcza historię.
Rząd otrzymuje listę potencjalnych podejrzanych.
To już nie jest nadzór prowadzony przez poszczególnych funkcjonariuszy podążających za konkretnymi tropami. To nadzór prowadzony z prędkością maszynową, nad całymi populacjami, z algorytmami decydującymi, czyje ruchy zasługują na dalszą kontrolę.
Weźmy pod uwagę skalę tego, co się dzieje.
Kamery rejestrujące tablice rejestracyjne rejestrują w tej chwili około 20 miliardów skanów pojazdów miesięcznie.
Dwadzieścia miliardów.
To nie jest ukierunkowana policja. To jest masowa kolekcja.
Zdecydowana większość tych skanów nie dotyczy skradzionych samochodów, poszukiwanych podejrzanych, porwań ani przestępstw z użyciem przemocy. Dokumentują zwykłych ludzi wykonujących codzienne czynności: dojazd do pracy, odwożenie dzieci do szkoły, odwiedzanie przyjaciół, uczestnictwo w kościele, wizyty lekarskie, udział w protestach lub po prostu powrót do domu.
Jednak każda z tych niewinnych podróży staje się częścią przeszukiwalnej policyjnej bazy danych.
Przy 20 miliardach skanów miesięcznie Flock nie szuka konkretnych podejrzanych, a potem nie próbuje ich śledzić. Rejestruje ruchy wszystkich, aby policja mogła później zdecydować, kogo chce śledzić.
To cyfrowy odpowiednik przydzielenia agentowi rządowego śledzenia każdego kierowcy w Ameryce — i zachowania notatek agenta na wypadek, gdyby rząd kiedyś uznał je za przydatne.
Jednak masowe zbieranie to dopiero pierwszy etap państwa nadzoru AI. Kolejnym krokiem jest połączenie tych miliardów obserwacji ze wszystkim, co rząd i jego korporacyjni partnerzy o nas wiedzą.
Flock jest także częścią znacznie większego przejścia w kierunku sztucznej inteligencji "fuzji danych", w której rejestry tablic rejestracyjnych są łączone z wynikami rozpoznawania twarzy, nagraniami z monitoringu, raportami politycznymi, aktywnością w mediach społecznościowych, informacjami kupowanymi komercyjnie, alertami wykrywania strzałów oraz innymi bazami danych rządowych.
Niebezpieczeństwo polega już nie tylko na tym, iż jeden system może śledzić samochód. Jest to połączenie wcześniej oddzielnych strumieni informacji w jeden system zdolny do mapowania ruchów, relacji, nawyków i skojarzeń danej osoby.
Systemy te coraz częściej robią więcej niż tylko dostarczają funkcjonariuszom informacji do oceny. Przypisują znaczenie powiązaniom, wskazują rzekome zagrożenia i generują tropy śledcze — często dzięki zastrzeżonych algorytmów, których ani oskarżony, ani opinia publiczna nie mogą zbadać.
Sztuczna inteligencja nie eliminuje ludzkich uprzedzeń, instytucjonalnych uprzedzeń ani złych informacji.
To ich uprzemysłowia.
Podaj wadliwy system niedokładnym danym, stronniczym rejestrom aresztowań lub konstytucyjnie podejrzewanym nadzorowi, a AI potrafi odtworzyć te wady z prędkością i skalą, której żaden pojedynczy policjant nie mógłby dorównać.
Gdy komputer wskaże kogoś podejrzanego, funkcjonariusze mogą potraktować algorytmiczny wniosek jako obiektywny fakt.
Maszyna oskarża. Policja działa. Obywatel musi udowodnić, iż maszyna się myliła.
Pomimo niezwykłego zasięgu tej technologii, Flock przez cały czas przedstawia swój system jako ograniczone, starannie kontrolowane narzędzie walki z przestępczością.
Flock nalega, aby jego kamery zbierały informacje o pojazdach, a nie o ludziach, iż agencje kontrolowały dostęp do własnych danych, aby wyszukiwania były rejestrowane, a informacje zwykle usuwane po 30 dniach. Jednak te zapewnienia w dużej mierze sprowadzają się do różnic bez różnicy.
Pojazdy są przedłużeniem osób, które nimi jeżdżą.
Jeśli śledzisz pojazd wystarczająco długo, wiesz, gdzie jego właściciel śpi, pracuje, modli się, robi zakupy, spotyka się towarzysko, szuka pomocy medycznej i uczestniczy w działalności politycznej.
Wiesz, kiedy ktoś wychodzi z domu, kiedy wraca, kogo odwiedza i jak często.
Możesz nie znać treści ich rozmów, ale wiesz na tyle, by stworzyć intymny portret ich życia.
To jest obserwacja.
Nie staje się mniej inwazyjna tylko dlatego, iż rząd zlecił kamery, bazy danych i algorytmy prywatnej korporacji.
Nie przestaje też być inwigilacją dlatego, iż policja twierdzi, iż te informacje mogą kiedyś okazać się przydatne przy rozwiązaniu przestępstwa.
To właśnie ta sztuczka pozwoliła państwu nadzoru tak gwałtownie się rozwinąć.
Rząd nie musi już instalować każdej kamery, utrzymywać każdej bazy danych ani bezpośrednio zbierać każdej informacji.
Jedynie zachęca prywatne firmy, przedsiębiorstwa, stowarzyszenia właścicieli domów, szkoły i indywidualnych konsumentów do tworzenia powiązanego ekosystemu nadzoru — a następnie prosi o dostęp.
To porozumienie publiczno-prywatne pozwala agencjom rządowym nabyć zdolności, które mogłyby nigdy nie otrzymać publicznej zgody lub wystarczających środków na samodzielną budownicę.
To również sprawia, iż odpowiedzialność jest niemal niemożliwa.
Gdy dochodzi do nadużyć, lokalna policja obwinia dostawcę technologii. Dostawca technologii nalega, aby lokalna policja kontrolowała dane. Agencje federalne twierdzą, iż jedynie poprosiły o dostęp. Lokalni urzędnicy twierdzą, iż nie byli świadomi, iż informacje mogą być udostępniane poza ich jurysdykcją.
Wszyscy wskazują gdzie indziej.
Tymczasem naród amerykański pozostaje pod obserwacją.
Flock stał się szczególnie kontrowersyjny, ponieważ jego sieć potrafi przekształcić to, co wydaje się zbiorem lokalnych kamer, w coś znacznie potężniejszego: przeszukiwalny system nadzoru, który pozwala organom ścigania zajrzeć daleko poza własne jurysdykcje.
Flock twierdzi, iż wymiana danych między agencjami jest opcjonalna i kontrolowana przez klientów. Jednak cała wartość takiego systemu tkwi w jego wzajemnych powiązaniach.
Kamera w jednym mieście to urządzenie do monitorowania ruchu.
Tysiące kamer połączonych dzięki przeszukiwalnych baz danych tworzą sieć śledzącą ruch.
Niebezpieczeństwo nie polega tylko na tym, iż policja może szukać skradzionego samochodu.
Niebezpieczeństwo polega na tym, iż system pozwala urzędnikom państwowym zaczynać od lokalizacji, opisu lub fragmentu informacji i pracować wstecz, aż ktoś okaże się podejrzanym.
To odwraca tradycyjny porządek policji konstytucyjnej.
Zgodnie z Czwartą Poprawką policja powinna rozwijać indywidualne podejrzenia, wykazywać prawdopodobną przyczynę, a następnie ubiegać się o nakaz przeszukania dowodów związanych z konkretną osobą lub przestępstwem.
Systemy masowego nadzoru zaczynają się od zbierania informacji o wszystkich.
W tym procesie każda niewinna osoba jest traktowana jak potencjalny podejrzany, którego ruchy muszą być rejestrowane na wypadek, gdyby rząd kiedyś uznał je za istotne.
To jest poczucie winy przez algorytm.
To także ta sama konstytucyjna inwersja, która jest sercem nakazów geofence, które pozwalają policji żądać informacji identyfikujących każdy telefon komórkowy, który akurat znajdował się w pobliżu danego miejsca o określonej godzinie.
Niedawna decyzja Sądu Najwyższego USA w sprawie Chatrie przeciwko Stanom Zjednoczonym może sygnalizować, iż kontrola konstytucyjna wreszcie zaczyna doganiać państwo inwigilacyjne.
Sprawa dotyczyła nakazu geofence używanego do uzyskania rejestrów lokalizacji telefonów komórkowych w pobliżu miejsca napadu. Zamiast zaczynać od zidentyfikowanego podejrzanego, policja domagała się informacji o urządzeniach, które akurat znajdowały się w wyznaczonym obszarze w danym okresie, a następnie cofała się, by zidentyfikować ich właścicieli.
Sąd Najwyższy orzekł, iż policja przeprowadza przeszukanie na podstawie Czwartej Poprawki, gdy uzyska historię lokalizacji telefonu komórkowego danej osoby od firmy technologicznej.
Ten wniosek ma znaczenie.
Odrzuca coraz wygodniejszy argument rządu, iż intymne informacje tracą ochronę konstytucyjną tylko dlatego, iż prywatna korporacja je zebrała, przechowywała lub przeanalizowała.
Sąd nie wydał orzeczenia w sprawie kamer Flock ani zautomatyzowanych baz danych tablic rejestracyjnych. Nie zdecydowała też, iż każde żądanie geofence jest koniecznie niekonstytucyjne. Sędziowie pozostawili Czwartemu Okręgowi decyzję, czy nakaz spełnia wymogi Czwartej Poprawki dotyczące prawdopodobnej przyczyny i szczególności na każdym etapie przeszukania.
Niemniej jednak zasada konstytucyjna leżąca u podstaw Chatrie wykracza daleko poza telefony komórkowe.
Rząd nie powinien unikać Czwartej Poprawki, zlecając masowy nadzór prywatnym firmom technologicznym.
Nie powinno mieć znaczenia, czy ślad lokalizacji pochodzi od Google, Flock, operatora telefonii komórkowej, brokera danych czy połączonej sieci prywatnych kamer.
Szczegółowy zapis ruchów osoby nie staje się mniej odkrywczy, ponieważ podąża za pojazdem, a nie telefonem. Rządowi nie powinno się pozwolić na realizację przez Flock tego, czego nie mógł osiągnąć konstytucyjnie, przydzielając policjantów do śledzenia milionów Amerykanów wszędzie, gdzie jeżdżą.
W rzeczywistości Flock może być jeszcze bardziej niepokojącym odwróceniem konstytucyjnego nadzoru policji.
Przeszukiwania geofence zwykle zaczynają się od konkretnego przestępstwa, miejsca i okresu. Flock nieustannie zbiera informacje o milionach pojazdów, zanim popełni jakiekolwiek przestępstwo i zanim ktokolwiek zostanie podejrzany o wykroczenie.
Policja może wtedy sięgnąć wstecz do tej zapisanej historii i odtworzyć ruchy danej osoby.
Najpierw jest obserwacja. Podejrzenia pojawiają się później.
Nakaz, jeżeli w ogóle jest o niego potrzebny, może pojawić się dopiero po tym, jak rząd już zbuduje bazę danych, którą zamierza przeszukać.
Chatrie może dostarczyć konstytucyjnej amunicji do zakwestionowania tego rozwiązania, ale żadne pojedyncze orzeczenie sądu nie rozmontuje mechanizmu masowego nadzoru.
Technologia ta jest już osadzona w tysiącach społeczności.
Bazy danych są już wypełniane.
Agencje są już połączone.
A firmy czerpiące zyski z tej infrastruktury będą walczyć o jej zachowanie.
Niestety, zabezpieczenia konstytucyjne rzadko nadążały za apetytem rządu na inwigilację.
Zagrożenia nie są już teoretyczne.
Dane Flock były podobno wykorzystywane w śledztwach odległych od poważnych przestępstw z użyciem przemocy, które rutynowo powołują się do uzasadnienia tych systemów.
To nieunikniona trajektoria każdej technologii nadzoru. Po pierwsze, jest wprowadzana jako środek awaryjny. Wtedy jest usprawiedliwiany jako narzędzie walki z przestępczością. Następnie rozszerza się na mniejsze przestępstwa. Następnie wykorzystywany jest do egzekwowania prawa administracyjnego, monitoringu politycznego, dochodzeń imigracyjnych oraz celów osobistych.
Ostatecznie staje się częścią tła rządu — stałym elementem codziennego życia, który przestaje przyciągać uwagę, ponieważ wszyscy przyzwyczaili się do bycia obserwowanymi.
Uprawnienia nadzoru stworzone do wykrywania porywaczy i brutalnych przestępców nie ograniczają się do porywaczy i przestępców z użyciem przemocy.
Bazy danych stworzone do lokalizowania skradzionych pojazdów nie ograniczają się do pojazdów skradzionych.
Agencje rządowe nie mogą oprzeć się pokusie wykorzystania dostępnej władzy, zwłaszcza gdy jej użycie jest tanie, łatwe i w dużej mierze ukryte przed opinią publiczną.
Potencjał tej technologii do błędów czyni to jeszcze bardziej niebezpiecznym.
Czytniki tablic rejestracyjnych mogą błędnie odczytywać tablice, polegać na niedokładnych listach aktywnych lub kojarzyć niewinny pojazd z przestępstwem. Gdy system wyda ostrzeżenie, funkcjonariusze mogą traktować wygenerowany wynik komputerowy jako fakt.
Osoba po stronie odbiorcy może zostać zatrzymana, otoczona przez uzbrojoną policję, skuta kajdankami, przeszukana lub zatrzymana, zanim ktokolwiek odkryje, iż maszyna była błędna.
To nie jest sprawiedliwość. To automatyczne podejrzenie.
Flock to tylko jeden element ekosystemu nadzoru, który obejmuje kamery dzwonkowe, rozpoznawanie twarzy, drony, śledzenie telefonów komórkowych, bazy danych biometrycznych oraz centra kryminalne w czasie rzeczywistym.
Efektem jest nadzór 360 stopni.
Osoba może opuścić dom monitorowany przez inteligentny dzwonek, przejechać obok sieci czytników tablic rejestracyjnych, wejść do firmy wyposażonej w rozpoznawanie twarzy, zabrać telefon z danymi lokalizacyjnymi i wrócić do domu ulicami monitorowanymi przez kamery policyjne i prywatne systemy bezpieczeństwa.
W żadnym momencie rząd nie musi fizycznie podążać za tą osobą, ponieważ infrastruktura robi to automatycznie.
Algorytmy sortują informacje. Bazy danych ją zachowują. Prywatne firmy to monetyzują. Agencje rządowe go przeszukują.
To wszystko dzieje się podczas gdy kraj pozostaje uwięziony w niekończącej się partyjnej klatce.
Obie partie przyczyniły się do powstania Państwa Nadzoru. Obie partie ją rozszerzyły. Obie partie wykorzystały strach, by przekonać społeczeństwo, iż wolność musi zostać poświęcona dla bezpieczeństwa.
Cele mogą się zmieniać w zależności od tego, kto sprawuje władzę, ale mechanizmy pozostają.
Gdy infrastruktura już istnieje, nie ma gwarancji, iż będzie używana tylko przeciwko osobom, których nie lubisz lub z którymi się politycznie nie zgadzasz.
To jest lekcja, której Amerykanie wielokrotnie odmawiają przyswojenia.
Narzędzie nadzoru stworzone przez jedną administrację zostanie odziedziczone przez następną. Baza danych złożona do jednego celu nieuchronnie zostanie wykorzystana do innego. System ustanowiony do monitorowania "ich" ostatecznie zostanie obrócony przeciwko "nam".
Społeczności w całym kraju wreszcie zaczynają dostrzegać zagrożenie.
Niektóre miasta zakończyły lub odmówiły przedłużenia kontraktów z Flock. Inni wstrzymali wdrożenie lub domagali się silniejszych ograniczeń w udostępnianiu danych, ich przechowywaniu i dostępie federalnym.
Ten opór jest już dawno potrzebny.
Nie możemy pozwolić sobie na tak duże rozproszenie się teatrem polityki, by nie zauważyć architektury tyranii, która wokół nas się buduje.
Państwo nadzoru nie obchodzi się, którą partię popierasz. Nie obchodzi go, na kogo głosowałeś.
Nie obchodzi go, czy uważasz, iż nie masz nic do ukrycia.
Kamery obserwują. Bazy danych rosną. Sieci się łączą.
I jak jasno podkreślam w Battlefield America: The War on the American People oraz jego fikcyjnym odpowiedniku The Erik Blair Diaries, jeżeli nie zadziałamy teraz, niedługo może nie być dokąd pójść, nie wiedząc dokładnie, gdzie byliśmy.
