Общество наблюдения – сможет ли Запад обогнать Китай?

Z Katarzyną Szymielewicz i prof. Davidem Lyonem rozmawiamy o tym, jak jesteśmy inwigilowani przez państwo i korporacje, o szczegółach systemów monitorujących w Chinach i w Indiach, sytuacji w Polsce, a także o roli społeczeństwa obywatelskiego w walce o wolność.

(Tekst jest przetłumaczonym z jęz. angielskiego, zredagowanym i skróconym zapisem debaty, która odbyła się 30.09.2023 r. w Warszawie podczas V Forum Geopolitycznego zorganizowanego przez Instytut Spraw Obywatelskich).

Anna Turner: Historia Polski stanowi fascynujący kontekst dla dyskusji na temat inwigilacji. Osoby starsze mają w pamięci czasy inwigilacji rządowej w okresie totalitaryzmu, podczas gdy młodsze pokolenie doświadcza zróżnicowanych form kontroli, w tym monitorowania i przetwarzania danych przez międzynarodowe korporacje. W dzisiejszych czasach technologie inwigilacyjne dotykają praktycznie każdego, szczególnie użytkowników Internetu. Rozpocznijmy naszą rozmowę od pytania o Wasze rozumienie społeczeństwa nadzoru: czy możecie wskazać istotne momenty, które ukształtowały je w ostatnich latach?

David Lyon: To ważne pytanie i można na nie udzielić rozmaitych odpowiedzi. Myślę o inwigilacji w odniesieniu do danych, które nas dotyczą – tak szerokie rozumienie stało się najważniejsze dla wielu kwestii.

Pojęcie inwigilacji [ang. surveillance – przyp. red.], które z pewnością znane jest w Polsce, dotyczy przede wszystkim inwigilacji państwowej. w tej chwili w wielu, jeżeli nie w większości państw na świecie, państwo jest silnie powiązane z działalnością komercyjną, z korporacjami, a więc te dwa podmioty ściśle ze sobą współpracują. Często okazuje się, iż państwo wykorzystuje dane ze sfery komercyjnej. W czasie pandemii Kanadyjski Rząd Federalny kupił dane od dostawcy usług telekomunikacyjnych (były to dane z telefonów komórkowych) i wykorzystał je, aby próbować monitorować rozprzestrzenianie się wirusa. To oczywisty przykład tego, jak państwo może polegać na danych pochodzących od firm komercyjnych. Jest to w tej chwili znacznie bardziej skomplikowana kwestia.

Zatem, gdy mówię o inwigilacji, mam na myśli zainteresowanie każdym działaniem, życiem osobistym, każdą aktywnością ujawniającą innym jakąś informację o nas, która następnie może być w dowolny sposób gromadzona.

To nie tylko dosłowna inwigilacja wzrokowa, ale dziś to przede wszystkim inwigilacja przez urządzenia mobilne.

Katarzyna Szymielewicz: Odniosę się do tego, jak misja i zakres działania Fundacji Panoptykon ewoluowały przez prawie 15 lat. Jak zauważył David, pierwotnym celem naszej działalności była analiza praktyk inwigilacyjnych dotykających obywateli ze strony państwa. W sytuacji, w której mieliśmy do czynienia z międzynarodową wojną z terroryzmem i podważaniem jakiejkolwiek ochrony praw człowieka, stało się dla nas oczywiste, iż przekroczyliśmy granicę wyznaczoną przez filozofów takich jak Foucault czy Agamben, za którą nikt nie jest zabezpieczony przed terrorem państwa. jeżeli my, jako cywilizacja, jako wspólnoty, akceptujemy (nigdy nie akceptowaliśmy, ale politycy przedstawiali to tak, jakbyśmy to robili) zabicie kogoś w obronie naszego społeczeństwa – oznacza to również, iż sami możemy zostać zabici w obronie społeczeństwa, z którego zostaliśmy wykluczeni. Przyglądanie się tej dynamice państwowej inwigilacji i decydowania, kto mieści się w obrębie społeczeństwa, a kto jest poza nim – kto zasługuje na przetrwanie, a kto na śmierć – to była pierwsza wielka idea stojąca za naszą pracą 15 lat temu.

Im wnikliwiej zgłębialiśmy to zagadnienie, tym bardziej odkrywaliśmy wspomnianą przez Davida złożoną dynamikę władzy, w której rynek i państwo działają ramię w ramię na rzecz uzasadniania potrzeby inwigilacji obywateli, a także wytwarzania umożliwiających ją narzędzi i infrastruktury – i iż jest to w zasadzie ten sam ekosystem. Punktem zwrotnym w tej dyskusji były rewelacje Edwarda Snowdena, które udowodniły ponad wszelką wątpliwość, iż tak właśnie się dzieje, tj. iż dane gromadzone przez firmy komercyjne, które wcześniej były kojarzone z wolnością, dostępem do informacji i mające opinię „najfajniejszych firm na świecie”, takie jak Google, Facebook i in., były aktywną częścią aparatu inwigilacji. Wtedy stało się dla nas jasne, iż głównym celem naszej pracy powinno być przyglądanie się praktykom stosowanym przez te firmy. Nie oznacza to, iż państwowa inwigilacja nie jest już niebezpieczna. Jest, ale zrozumieliśmy, iż tak działa świat.

Prawdopodobnie nie będziemy w stanie zastąpić państwa inwigilującego obywateli państwem nieinwigilującym, więc lepiej stwórzmy jakiś rodzaj regulacji, które chroniłyby prawa obywateli. Do pewnego stopnia konieczne jest, aby państwo spełniało swoje funkcje, broniło nas, gdy naprawdę potrzebujemy obrony i organizowało usługi publiczne, gdy ich potrzebujemy, ale na rynku usług internetowych inwigilacja nie powinna być częścią pakietu.

W ciągu pięciu ostatnich lat wiele z naszych działań dotyczyło właśnie takich firm i ich regulacji, również dlatego, iż inwigilacja stała się dosłownie niewidoczna i nieuchwytna dla klientów. Kiedy spotykamy się z państwową inwigilacją, wiemy przynajmniej, iż ktoś sprawuje nad nami władzę. Możemy czuć się zastraszeni, zagrożeni, odczuwać dyskomfort. Zupełnie inaczej jest w środowisku komercyjnym, gdzie jest nam to sprzedawane jako wygoda: „Nic nie rób. Nie decyduj. Zrobimy to za ciebie”.

Myślę, iż ta nowa fala inwigilacji, bazująca na narzędziach zapewniających komfort, wiąże się z tym, iż ludzie stają się coraz bardziej pasywni i są „szczęśliwi” – nie wybierają tego świadomie, ale czują się szczęśliwi, wycofując się z aktywnych wyborów i po prostu poddając się sugestiom, rekomendacjom, ukierunkowanym reklamom, obserwowaniu tego, jak firmy kształtują ich życie.

Jest to prawdopodobnie znacznie bardziej niebezpieczne dla społeczeństwa niż inwigilacja ze strony państwa, ponieważ o wiele trudniej jest nam się zatrzymać – zauważyć, co się dzieje, i spróbować to zakwestionować. Właśnie to uważam w tej chwili za główny problem związany z inwigilacją.

Jako badacza fascynuje mnie analiza porównawcza, szczególnie w kontekście tego, co społeczeństwa mają ze sobą wspólnego, a co je różni. Badania przeprowadzone w krajach zachodnich pokazują, iż mamy w dużej mierze negatywny pogląd na inwigilację oraz na wykorzystywanie naszych danych bez naszej zgody. Warto jednak zaznaczyć, iż akceptacja praktyk nadzoru rośnie, gdy działania te są motywowane troską o bezpieczeństwo. Innymi słowy, nie toleruję sytuacji, w której moje dane są wykorzystywane bez mojej wiedzy, ale zmieniam zdanie, gdy jestem przekonana, iż jest to konieczne dla zapewnienia bezpieczeństwa.

Krajem o zupełnie odmiennym od naszego nastawieniu do inwigilacji są Chiny. Odniosę się do badania, którego wyniki pochodzą z opublikowanej kilka tygodni temu fascynującej książki autorstwa Ariane Ollier-Malaterre pt. „Living with Digital Surveillance in China: Citizens’ Narratives on Technology, Privacy and Governance”. W podsumowaniu autorka pisze: „Chińscy respondenci, którzy wzięli udział w badaniu, wierzą, iż rozwój technologii przywróci Chinom dawną świetność, rozwiązując wszystkie chińskie problemy. Akceptują oni techniki nadzoru, ponieważ postrzegają rząd jako zaufanego opiekuna, niemal rodzica, który jest potrzebny, gdy brakuje ‘jakości moralnej’. Innymi słowy, respondenci twierdzą, iż jest to forma dyscypliny potrzebna do przeciwdziałania chaosowi w tak ogromnym kraju”.

Widzimy zatem, w jak istotny sposób różni się postrzeganie technik nadzoru w Chinach, zarówno w porównaniu z badaniami przeprowadzonymi w krajach zachodnich, jak i w kontekście narracji prezentowanej przez zachodnie media, w których chiński System Zaufania Społecznego jest przedstawiany jako przykład makiawelicznej, totalitarnej kontroli. Jaka jest Wasza opinia na ten temat i czy jest coś, czego możemy się od Chińczyków nauczyć?

D.L.: Sytuacja w Chinach jest fascynująca i bardzo różni się od tej, której doświadczamy w Kanadzie i, jak rozumiem, której Wy doświadczacie tutaj.

Różnice kulturowe sprawiają, iż moim zdaniem nie da się dokonać prostych porównań między tymi kulturami – jako ludzie Zachodu bardzo różnimy się od Chińczyków, ukształtowanych przez dziedzictwo konfucjanizmu.

Stany Zjednoczone w szczególności, ale także wiele innych państw zachodnich, mają tendencję do postrzegania Chin jako pewnego rodzaju możliwej do uniknięcia dystopii, co prowadzi do narastających napięć w relacjach dwustronnych, przy bardzo niewielkim zrozumieniu ze strony Zachodu tego, co faktycznie dzieje się w Chinach. Zgadzam się, iż książka Ariane to udana próba obalenia niektórych stereotypów i rażących błędów w naszym myśleniu o Chinach.

Zwróciłaś uwagę na odmienny sposób postrzegania nadzoru państwowego. Ma to związek z narodowym upokorzeniem, którego Chińczycy na wiele sposobów doświadczyli w ostatnim stuleciu. Na przykład inwazja Japonii w latach 30. XX wieku jest przez cały czas przedmiotem napięć w Chinach. To upokorzenie wpływa na sposób, w jaki Chińczycy myślą o relacjach między obywatelem a państwem. Mamy tutaj do czynienia z zasadniczą różnicą względem państw zachodnich. jeżeli chodzi o System Zaufania Społecznego, Chińczycy obawiają się zawstydzenia z powodu niskiego wyniku w raporcie zaufania – ten wstyd jest moim zdaniem znacznie silniejszy niż w społeczeństwach zachodnich. Mówimy o podobnych zjawiskach, ale doświadczanych w różny sposób z uwagi na uwarunkowania kulturowe.

W Chinach mamy do czynienia nie tyle z kapitalizmem inwigilacji – nawiązując do tytułu książki Shoshany Zuboff z 2019 roku – co z państwowym kapitalizmem inwigilacji.

Nie możemy w prosty sposób zastosować diagnoz stawianych przez Zuboff do opisu chińskiej rzeczywistości, gdyż czynnik państwowy odgrywa tam znacznie większą rolę niż w Polsce, Kanadzie, Wielkiej Brytanii czy w wielu innych państwach Zachodu.

Dlatego zanim pochylimy się nad szczegółowymi kwestiami, miejmy na uwadze, aby pochopnie nie ekstrapolować zachodnich realiów na realia chińskie i nie przyjmować błędnych założeń ani na temat motywacji kierujących zachowaniami chińskich obywateli, ani na temat celów, które przyświecają działaniom chińskiego rządu. Osobiście nie jestem entuzjastą rządów Xi Jinpinga – staram się jednak zrozumieć jego motywacje i założenia z uwzględnieniem kontekstu kulturowego, w którym funkcjonuje.

Działamy bez cenzury. Nie puszczamy reklam, nie pobieramy opłat za teksty. Potrzebujemy Twojego wsparcia. Dorzuć się do mediów obywatelskich.

K.S.: W pełni zgadzam się z Davidem i podobnie jak on unikam porównywania nas z Chinami. Takie próby wydają mi się wręcz niedorzeczne. Nie jest to krytyka Twojego pytania – wiem, iż zadajesz je, ponieważ taka jest medialna narracja, o czym również wspominasz. Chiny nie mają wobec nas żadnych zamiarów. Tzn. jeżeli mają jakieś plany, to nie skupiają się one na Polsce, ale obejmują cały świat i wielkie rozgrywki ze znacznie potężniejszymi graczami. Chiny stały się dla nas swego rodzaju zasłoną dymną, mającą na celu ukrycie problemów, z którymi zmagamy się na Zachodzie, a stwierdzenie, iż „przecież nie jesteśmy Chinami” ma na celu zamknięcie dyskusji, która powinna się toczyć. Uważam, iż jest to podejście zasadniczo błędne. Myślę, iż powinniśmy z uwagą przyglądać się Chinom. Podobnie jak David, nie jestem zwolenniczką ich praktyk jako takich, ale konsekwencja, precyzja i rozwaga, z jaką są wdrażane, robią wrażenie.

Podam dwa przykłady, o których nie wiedziałam, dopóki nie zaczęłam zadawać sobie pytań o Chiny. Według badaczy, z którymi rozmawiałam podczas moich własnych studiów nad tym zagadnieniem, System Zaufania Społecznego został zaprojektowany specjalnie z myślą o społecznej integracji. Jest to więc taka sama sytuacja jak w innych słabo rozwiniętych krajach, jak np. Indie, gdzie ludzie nie mają dokumentów tożsamości, połowa społeczeństwa jest niepoliczona, niezidentyfikowana, a obywatele nie mają tożsamości w stosunku do państwa. Są to zupełnie inne realia niż nasze, gdyż my jesteśmy policzeni, zidentyfikowani i monitorowani.

Zatem kraje takie jak Chiny czy Indie tworzą systemy mające na celu społeczną integrację mieszkańców, aby mogli oni brać pożyczki, podróżować czy otrzymywać świadczenia. My natomiast nakładamy na te procesy nasze filtry poznawcze i krytykujemy pozyskiwanie przez tamtejsze rządy informacji o obywatelach, nie mając świadomości, jaki był ich punkt wyjścia i na jakie wyzwania programy te stanowią odpowiedź.

Była to jedna z refleksji, jakie nasunęły mi się podczas omawiania chińskiego Systemu Zaufania Społecznego z osobą, która zna chińskie społeczeństwo znacznie lepiej niż ja.

Innym przykładem są duże firmy, takie jak TikTok, które spotkały się z ogromną krytyką w Europie – i są ku niej dobre powody. Aczkolwiek na Zachodzie w gruncie rzeczy nie rozumiemy, w jaki sposób firmy te funkcjonują w Chinach – z moich obserwacji wynika, iż są kontrolowane, a ich działalność podlega państwu, którego polityka wyznacza kierunki ich działania. Powtórzę, nie jestem wielką fanką tych rozwiązań, ale jeżeli mamy silne państwo, które jest w stanie kontrolować to, co robią firmy monitorujące, a te nie mogą przekraczać pewnych czerwonych linii, na przykład nie mogą oferować dzieciom tego, co oferują dzieciom tutaj – uzależniając je od technologii, dostarczając im treści, których dzieci nigdy nie powinny oglądać, manipulując ich umysłami (a najwyraźniej nie dzieje się tak w Chinach, ponieważ relacje między tymi firmami a państwem wyglądają inaczej) – to może jest to coś, czego moglibyśmy się od Chińczyków nauczyć.

D.L.: Odniosę się do kwestii, którą przed chwilą poruszyła Kasia. Na Zachodzie często przywołujemy przykład Chin jako pewnego rodzaju dystopii, której można uniknąć. To ścieżka, którą nie chcemy podążać, ponieważ przyjmujemy na jej temat wiele założeń – na przykład sugeruje się, albo wręcz stwierdza, iż chiński System Zaufania Społecznego został opracowany przez chińskie państwo w celu śledzenia i kontrolowania wszystkich obywateli. Tak, systemy zaufania społecznego, które istnieją w Chinach, są zarządzane przede wszystkim przez rząd, ale oceniają głównie działalność korporacji. Nie zbierają danych na temat poszczególnych obywateli lub konsumentów.

W Chinach nie ma ujednoliconego systemu o nazwie Zaufanie Społeczne. Od 2014 r. istnieje plan opracowania niektórych aspektów Systemu Zaufania Społecznego, który miał zostać zrealizowany w 2020 roku. Tak się nie stało. W całym kraju wiele osób sprzeciwiło się jego konkretnym fragmentom, a w wielu miastach korporacje odrzucają pewne elementy Systemu Zaufania Społecznego, ponieważ uważają, iż jest on nieadekwatny do zadania, do którego rząd go powołał. Nie wyobrażajmy sobie zatem, iż w Chinach istnieje ujednolicony system odgórnej, totalitarnej kontroli, sprawowanej przez władze w Pekinie. Jest on o wiele bardziej skomplikowany, o wiele bardziej płynny i o wiele bardziej otwarty na kontestację. W miarę upływu czasu korporacje sprzeciwiały się, zmieniały, a także wycofywały niektóre jego elementy.

Kasia nawiązała także do Indii. Populacja Indii niedługo przewyższy populację Chin. jeżeli szukamy jednolitego systemu, który obejmowałby każdego obywatela kraju, dlaczego nie przyglądamy się Indiom – które nigdy nie są wymieniane jako państwo, którego rozwiązania chcemy naśladować bądź których chcemy uniknąć? Indie mają jeden centralny, zorganizowany przez państwo system rejestracji biometrycznej [Aadhaar – przyp. red.] – do jego stworzenia premier Indii zaprosił szefa największej indyjskiej korporacji technologicznej, Infosys. w tej chwili jest w nim zarejestrowanych 1,4 mld ludzi. Pod względem technologicznym i administracyjnym jest to system zdumiewający, zbudowany w trudnym do uwierzenia tempie i bazujący na skanowaniu tęczówki (a także zdjęciach twarzy i odciskach palców). Skany 1,4 mld ludzkich tęczówek znajdują się w jednym ujednoliconym, kompleksowym systemie w Indiach. Spełnia on niezwykle istotną rolę w indyjskiej polityce, ale oczywiście jest także przedmiotem wielu kontrowersji. Niemniej, w tym przypadku mamy do czynienia z systemem biometrycznym, który został zainicjowany przez państwo, ale zrealizowany przy wsparciu wielkiej korporacji, i który faktycznie obejmuje wszystkich obywateli.

K.S.: Możemy również wspomnieć o takich firmach jak Meta lub Alphabet, które posiadają systemy oparte na tożsamości używane przez miliardy ludzi, służą jako dostawca tożsamości online i być może w przyszłości – mam nadzieję, iż nie – dostęp do ich usług będzie uzyskiwany dzięki odcisków palców, które staną się domyślnym sposobem wejścia do systemu. To tylko kwestia zaprogramowania urządzeń, telefonów komórkowych i tabletów, których używamy, aby korzystać z tych serwisów. Takie rozwiązanie ma uzasadnienie, ponieważ ten sposób jest szybki, a ludzie lubią szybkość, niezawodność, intuicyjność; obietnicę, iż nie zostaną zhakowani – i choćby nie zastanawiają się nad przekazaniem swoich danych firmom prywatnym, chociaż są przeciwni temu, aby pozyskało je państwo. Oczywiście, iż państwo również je dostanie. Już je ma! Na lotniskach w Unii Europejskiej pobierane są od nas odciski palców i nic nie możemy na to poradzić. Chodzi mi o to, iż taka przyszłość czeka nas także tutaj, dlatego lepiej jest skoncentrować się na praktykach władzy tu i teraz, zamiast rościć sobie kolonialne pretensje do uczenia innych, jak mają chronić prywatność swoich obywateli.

Muszę przyznać, iż także zwróciłam uwagę na protekcjonalny ton niektórych komentarzy w zachodnich mediach, wskazujący raczej na zupełny brak zrozumienia lokalnych uwarunkowań. Badania przeprowadzone przez Ariane Ollier-Malaterre pokazują, iż wielu obywateli Chin choćby nie wie o istnieniu Systemu Zaufania Społecznego, a programy nadzoru cyfrowego nie są czymś, co ich zbytnio niepokoi.

Pojawiające się w zawrotnym tempie innowacje są wdrażane gwałtownie i na dużą skalę. Jak poważne są praktyki inwigilacyjne na Zachodzie i czy robi się wystarczająco dużo, aby je kontrolować i regulować z prawnego punktu widzenia? Czy jest w ogóle możliwe, aby zmiany w prawie, które zwykle jest dość powolne, dotrzymywały kroku i nadążały za tak szybkim rozwojem technologii?

D.L.: Musimy zastanowić się nad tym, co w istocie dzieje się w naszych społeczeństwach. Uważam, iż bardzo pomocna jest w tym względzie praca Shoshany Zuboff na temat kapitalizmu inwigilacji. Nie zgadzam się z niektórymi wnioskami autorki, ale szanujemy się nawzajem. Myślę, iż Shoshana trafiła w sedno niektórych naprawdę ważnych aspektów dzisiejszych praktyk inwigilacyjnych, zauważając, iż korporacje są w znacznym stopniu zaangażowane w gromadzenie danych osobowych i iż dane te są pozyskiwane na podstawie naszych codziennych zachowań. Zatem nie mamy tutaj do czynienia z działaniem jakiejś obcej siły, która odsłania i agreguje informacje na nasz temat. Chodzi raczej o to, iż to my, poprzez naszą aktywność w Internecie związaną z użytkowaniem urządzeń cyfrowych, nieustannie wytwarzamy dane, które są następnie zbierane. Są one bardzo cenne i można na nich zarabiać. Właśnie w ten sposób zarabiają wielkie, cyfrowe korporacje, manipulując tymi danymi dzięki algorytmów, aby wykorzystywać je do własnych celów i odsprzedawać innym.

Podałem wcześniej przykład kanadyjskiej korporacji Telus, która podczas pandemii sprzedała Kanadyjskiej Agencji Zdrowia Publicznego dane dotyczące użytkowania telefonów komórkowych i ruchu w sieci komórkowej. Żadna z 33 milionów osób, których dane zostały sprzedane rządowi, nie wiedziała, iż taka transakcja ma miejsce. Pandemia została wykorzystana jako pretekst do szybkiego przechwytywania danych i wyobrażam sobie, iż ludzie w Kanadyjskiej Agencji Zdrowia Publicznego choćby nie przypuszczali, iż ktokolwiek będzie im zadawał pytania na ten temat. Ale tak się stało. Uważam, iż należy dokonać poważnego namysłu nad tym, w jaki sposób dane obywateli są w tej chwili pozyskiwane i gromadzone. Dziś choćby dane dotyczące naszych relacji z państwem są często zbierane w sferze komercyjnej. Oczywiście, przez cały czas istnieją rządowe agencje bezpieczeństwa, które mają dostęp do naszych danych i je wykorzystują.

Jednak dzisiaj najważniejsze pytanie dotyczy komercyjnego wykorzystania danych osobowych, które mogą być również wykorzystywane przez organy państwowe

– od policji (która uwielbia uzyskiwać dostęp do danych dostarczanych przez korporacje) po agencje zdrowia publicznego, agencje bezpieczeństwa, a także różnorodne instytucje rządowe, których działania są często uzależnione od informacji. Niekiedy dane na nasz temat są zbierane przez te instytucje, ale w tej chwili coraz częściej są one pozyskiwane od agencji komercyjnych i korporacji.

K.S.: Wrócę do pytania o to, czy jest możliwe, aby prawo nadążało za rozwojem technologii: uważam, iż wręcz nie powinno. Prawo nigdy nie powinno bowiem powstawać przed zdefiniowaniem problemów – w przeciwnym razie postrzegalibyśmy je jako autorytarne, despotyczne i dystopijne. To tak, jakby państwo wiedziało lepiej od nas, jak zapobiegać problemom, zanim je zdefiniujemy. Bardzo dobrym przykładem takiego prawa, które było tworzone w oparciu o rzetelne zdefiniowanie problemu, jest ogólne rozporządzenie o ochronie danych (RODO), ponieważ jest ono zbudowane w oparciu o założenia, które istnieją od lat 70. XX wieku.

Mówimy tutaj zatem o ponad pięćdziesięciu latach, podczas których idea, iż nie należy zbierać żadnych danych o osobie bez ważnego powodu określonego w prawie, sprawdzała się w naszej rzeczywistości. Tym powodem może być najlepszy interes tej osoby lub jej zgoda. Ale może to być również polityka realizowana przez państwo, które jest w stanie uzasadnić konieczność takiego działania. Pewnie zgodzimy się, iż jest to bardzo dobra zasada. Jednak tworzy ona rzeczywistość, w której państwo może wdrożyć hipotetyczną politykę, zgodnie z którą obywatele mają obowiązek uśmiechać się podczas przekraczania granicy – i wprowadzić skanowanie twarzy, aby upewnić się, iż więcej z nich się uśmiecha. My jednak możemy wówczas stwierdzić: nie, to jest niezgodne z prawem. I podjąć w tej sprawie walkę.

Jeśli jako obywatele będziemy wiedzieli, czego bronimy – jeżeli jesteśmy zmotywowani do obrony naszej wolności – możemy wygrać. jeżeli nie – tzn. jeżeli faktycznie ulegniemy narracjom, które oferują nam fałszywą obietnicę bezpieczeństwa w zamian za naszą wolność – to nie pomogą nam choćby najlepsze założenia, ponieważ nie będziemy ich bronić w konkretnym przypadku, gdy nasza wolność będzie naruszana. Albo też, co gorsza, damy się przekonać, iż jest to sytuacja, w której nasza zgoda nie powinna mieć znaczenia.

To tyle jeżeli chodzi o państwo, ale porozmawiajmy o rynku, który od dziesięcioleci regulowany jest przez prawo ochrony danych, a mimo to firmy takie jak Alphabet (dawniej znana jako Google) czy Meta (dawniej znana jako Facebook) opracowały zdumiewający aparat inwigilacji, którego choćby Chiny nie byłyby w stanie zbudować samodzielnie, bez udziału firm komercyjnych (tak jak robią to teraz). Jak to było możliwe? Z jednej strony, firmy te powstały w kraju, w którym nie było żadnych regulacji, czyli w Stanach Zjednoczonych. w tej chwili trwa w USA zaciekła dyskusja wokół tego zagadnienia, w której padają pytania o to, jak mogło dojść do takiej sytuacji. Nieustannie słyszę od amerykańskich polityków i naukowców, jak bardzo tego żałują. Ale były powody, dla których regulacje te nie zostały wprowadzone – powodami tymi były rozwój gospodarczy oraz specyficzne podejście do wolności jako wartości domyślnej dopóty, dopóki szkody wyrządzane społeczeństwu nie są na tyle oczywiste, aby ograniczyć swobodę działania korporacji. Nie dostrzegamy, jak wiele robią korporacje, aby chronić tę swoją swobodę działania – i społeczeństwo amerykańskie wybrało tę narrację. Zaakceptowało działania cyfrowych gigantów, ponieważ zostało omamione obietnicami komfortu, rozwoju, darmowych, atrakcyjnych usług, i tak dalej.

Tak to się zaczęło. A następnie procesy te dotarły do Europy i – mimo iż mieliśmy nasze przepisy i regulacje – ci wielcy rynkowi gracze zdołali je obejść w wielu aspektach, głównie ze względu na niesamowite zdolności kreowania narracji. Nasze sądy, Komisja Europejska, a choćby organizacje pozarządowe reprezentujące obywateli potrzebowały wiele czasu, aby skutecznie im przeciwdziałać, formułując narrację przeciwną. Książka Shoshany Zuboff odegrała w tym procesie kluczową rolę, więc niezależnie od tego, co sądzę o jej argumentacji, podoba mi się ogólny sposób przedstawienia problemu kapitalizmu inwigilacji i obarczenie firm odpowiedzialnością za stworzenie tego systemu oraz obejście wielu zabezpieczeń. Książka Zuboff była jednym z wielu sygnałów ostrzegawczych, takich jak skandal Cambridge Analytica czy rewelacje Edwarda Snowdena. Decydenci zrozumieli, z czym mają do czynienia – i iż istotą problemu nie są reklamy butów, które wyświetlane są konsumentom za ich zgodą w usługach takich jak Facebook. Nie o to tutaj chodzi. Problemem jest nadwyżka behawioralna, którą zdefiniowała Zuboff, i o której my również dzisiaj rozmawialiśmy.

Chodzi o dane na nasz temat, na temat naszego zachowania, wyborów, preferencji, które są zbierane i wykorzystywane bez naszej zgody, a choćby bez naszej świadomości.

Przez długi czas firmy unikały konsekwencji – choć istniały regulacje obejmujące dokładnie te zagadnienia – argumentując, iż nie są to dane osobowe. To pokazuje, na czym polega rzeczywisty problem z technologiami. Bardzo często nie rozumiemy ich na tyle, aby wprowadzić adekwatne regulacje czy zasady. Gdybyśmy mieli inną narrację oraz lepsze zrozumienie tego, co dzieje się po drugiej stronie naszych ekranów, moglibyśmy skuteczniej stosować już istniejące regulacje, którymi dysponowaliśmy przed powstaniem Facebooka, i powstrzymać stosowanie tych praktyk. Było to jednak poza zasięgiem społeczeństw.

Ludzie tacy jak my – organizacje pozarządowe, wykładowcy uniwersyteccy, hakerzy, grupy takie jak Chaos Computer Club w Niemczech czy Electronic Frontier Foundation w USA – ostrzegali, iż te procesy mają miejsce, ale była to nisza niszy, awangarda, nie do końca zrozumiana, dopóki nie pojawiły się wielkie nazwiska, takie jak Zuboff, lub popularne filmy, takie jak „Dylemat Społeczny” na platformie Netflix, które zmieniły tę narrację. Zrozumienie tego, co się dzieje, zajęło naszym społeczeństwom dwie dekady. W tym tkwi problem. Nie zrzucałabym całej winy na prawo i nigdy nie zachęcałabym prawników do szybszego działania, jeszcze zanim problemy zostaną zdefiniowane. Przez zbyt długi czas przedstawialiśmy społeczeństwu zagadnienia związane z korzystaniem z usług takich jak Facebook jako problem indywidualnego wyboru, a nie ogromny problem społeczny. Teraz to się zmieniło, mamy nowe przepisy, dyskutuje się o szkodach społecznych, a nie o indywidualnych niepowodzeniach, ale zajęło nam to dwie dekady. Pytanie brzmi: czy możemy przyspieszyć? Czy możemy szybciej analizować zjawiska generowane przez nowe technologie? jeżeli będziemy pracować w obecnym tempie i potrzebować dwóch kolejnych dekad, aby zrozumieć działanie nowych usług, to nie jest to przepis na utrzymanie wolności.

D.L.: Zgadzam się z Tobą, Kasiu. Ważne jest umiejscowienie tego, o czym dyskutujemy, we adekwatnym kontekście. Tak jak istotna jest rola czynników kulturowych w Chinach czy Indiach, tak na Zachodzie zauważam dwa aspekty, które moim zdaniem odgrywają kluczową rolę w tej sytuacji. Jednym z nich jest przekonanie, iż technologia jest kluczem do rozwiązania wszystkich naszych problemów, co wpisuje się w ideę technologicznego solucjonizmu. Jest to jedynie mit, ale firmy bardzo chcą, abyśmy w niego uwierzyli. Drugim elementem jest nasze postrzeganie własnych działań przez pryzmat wygody. Wygoda została podniesiona do rangi najwyższej wartości, choć moim zdaniem nie powinna zajmować tego miejsca. Kiedy więc sprzedawany jest nam iPhone lub inne tego typu urządzenie, głównym argumentem przemawiającym za jego zakupem jest zwykle wygoda (nie wspominając o tym, iż za tę wygodę płacimy kilkaset dolarów więcej). Idea wygody została bardzo skutecznie zaimplementowana w nasze umysły jako konsumentów.

W pełni zgadzam się z Kasią, iż czynniki kulturowe odegrały zasadniczą rolę w porażce instytucji państwowych na drodze wprowadzania regulacji ograniczających działania cyfrowych gigantów. Jednak fakt, iż firmy te funkcjonują tak, jakby przed nikim nie odpowiadały, wynika przede wszystkim z kulturowego tła wiary w to, iż posiadamy technologiczne odpowiedzi na wszystkie wyzwania – a także z przekonania, iż wygoda jest nieodłączną ludzką wartością.

Kiedy o tym mówisz, przypominam sobie artykuł, który napisałeś między innymi z Zygmuntem Baumanem: „After Snowden: Rethinking the Impact of Surveillance”, w którym definiujecie trzy czynniki wpływające na akceptację praktyk inwigilacyjnych: lęk, rozrywkę i znajomość. O lęku mówiłam już wcześniej, często bazują na nim agencje rządowe, które przekonują o konieczności monitoringu danych i informacji celem zapewnienia bezpieczeństwa obywatelom. Rozrywka ewoluowała od dosyć prostych mechanizmów, na których początkowo opierały się media społecznościowe, takich jak kontakt z dawno niewidzianymi znajomymi, do wygody, która stała się kluczową wartością. Natomiast znajomość technik inwigilacyjnych to nic innego jak wszechobecność nadzoru otaczającego nas na tak wiele sposobów i w tak wielu miejscach, iż już go nie zauważamy, a mimo to niektórzy z nas przez cały czas starają się podejmować działania mające na celu ochronę prywatności w Internecie.

To prowadzi mnie do kolejnego pytania o odpowiedzialność. Odwołam się tutaj do badania Eurobarometru, w którym zapytano respondentów, kto ich zdaniem powinien zadbać o to, by podawane przez nich w Internecie dane osobowe były gromadzone, przechowywane i przekazywane w bezpieczny sposób: rząd, firmy internetowe, czy może oni sami? W większości państw respondenci stwierdzili, iż to oni sami są za to odpowiedzialni. Czy nie wydaje się zaskakujące, iż ludzie czują, iż mają jakąś kontrolę nad przetwarzaniem swoich danych, choć tak naprawdę – znając zasady funkcjonowania systemu kapitalizmu nadzoru – kilka mogą zrobić?

K.S.: Nie chodzi o to, jak się z tym czują, ale o to, co im powiedziano. Dostrzegam tutaj podobieństwo do narracji związanych z ekologią, kiedy dla największych firm na świecie stało się całkiem jasne, iż problemy zostały zauważone i zanieczyszczanie naszej planety nie ujdzie im już na sucho (to było jakieś 20 lat temu). Zmiana narracji – finansowana przez te firmy – odbywała się często w sposób pozorowany, tak aby odbiorca mógł odnieść wrażenie, iż ma do czynienia z kampaniami obywatelskimi np. na rzecz zmniejszenia zużycia plastiku czy ograniczenia liczby podróży lotniczych. To świetnie, gdy zachowanie konsumentów zmienia się na bardziej odpowiedzialne, ale jest to ostatni element układanki, ponieważ prawdziwa władza jest zawsze po stronie tych, którzy kreują trendy, produkują towary, a następnie nam je sprzedają. Dla wielkich firm zmiana sposobu produkcji, np. zmniejszenie zużycia plastiku, to kwestia jednej decyzji – natomiast konsumenci są ograniczani na tak wielu poziomach przez czas, presję ekonomiczną czy brak dostępu do innych towarów, iż podejmowana przez firmy próba przerzucenia na nich odpowiedzialności np. za kryzys klimatyczny jest po prostu niesprawiedliwa i powinniśmy zdecydowanie walczyć z tego rodzaju narracjami.

Zarazem uważam, iż istnieją działania, które każda osoba może podjąć w celu ochrony swojej prywatności. Na przykład: nie zawsze zabierać ze sobą telefon. Lub zastanowić się dwa razy, zanim cokolwiek się na nim zainstaluje, a także nie zezwalać urządzeniu na korzystanie z lokalizacji, chyba iż jest to absolutnie konieczne. Zatem są rzeczy, które możemy zrobić, a bardzo drogie urządzenia, takie jak choćby iPhone’y, pomagają nam dokonywać tych wyborów – ponieważ płacimy producentowi za to, aby mieć zapewnioną większą ochronę. Jednak czy jest to opcja dostępna dla przeciętnego konsumenta? Bynajmniej. Jest to luksusowa usługa dla nielicznych, ale sprzedawana jako Twój wybór: „Chcesz być chroniona? Kup jeszcze droższe urządzenie. Pomyśl dwa razy, zanim coś zrobisz”. To nie jest sprawiedliwe.

Musimy zaatakować tych, którzy mają moc zmiany ekosystemu, zmiany logiki usług i modeli biznesowych stojących za usługami – nadwyżki behawioralnej, tak precyzyjnie opisanej przez Zuboff. Nigdy nie powinniśmy pozwalać firmom na zbieranie i wykorzystywanie naszej „nadwyżki behawioralnej” – dla nich to tylko dane, ale dla nas to nasze życie, zdigitalizowane ślady naszego życia, które nigdy nie powinno stać się częścią usługi. I dlatego odpowiedzialność spoczywa na firmach, ponieważ jako jednostki nie możemy usunąć śladów naszego życia z urządzeń i usług, z których korzystamy w ramach tego życia. To jest niewykonalne. Mogę zrezygnować z udostępniania lokalizacji czy otrzymywania powiadomień, ale nie mogę zrezygnować z udostępniania Google moich danych behawioralnych, ponieważ ich usługi działają w jakiejś mierze w oparciu o te dane. To musi się zmienić, a my musimy nieustannie wywierać presję i domagać się odpowiedzialności od cyfrowych gigantów.

D.L.: Zgadzam się, iż jako jednostki moglibyśmy być bardziej ostrożni. Może nie aż tak ostrożni, jak ja staram się być. Nie mam telefonu komórkowego, co stanowi prawdziwą niedogodność dla osób, które chcą się ze mną skontaktować. Zatem, nie podzielając wiary w to, iż wygoda jest najwyższą wartością znaną istotom ludzkim, staję się niewygodny dla innych. Ale to inna historia.

Problemy, o których mówimy, nie są problemami indywidualnymi. Możemy ich doświadczać jako jednostki, ale mają one charakter społeczny.

To, w jaki sposób jesteśmy postrzegani przez korporacje cyfrowe, nie opiera się jedynie na pochodzącym od nas strumieniu danych, ale zależy również od tych, z którymi jesteśmy powiązani i z którymi się kontaktujemy. To członkostwo w grupach buduje nasze profile. Gdy jesteś dostępna online w jakikolwiek sposób, Twój profil jest tworzony na podstawie Twoich kontaktów – zarówno służbowych, jak i prywatnych.

Nikt nie udaje, iż chodzi tylko o nas jako o jednostki – i naprawdę ważne jest, abyśmy zdali sobie z tego sprawę. Jest to obszar, w którym moim zdaniem najważniejsze znaczenie i rolę do spełnienia ma społeczeństwo obywatelskie. To organizacje obywatelskie, takie jak Fundacja Panoptykon, podejmują te kwestie i proponują rozwiązania zdiagnozowanych problemów. W USA informatyczka i aktywistka Joy Buolamwini założyła Algorithmic Justice League, aby pomóc programistom tworzącym algorytmy zrozumieć, iż w sposób, w jaki są one tworzone, wbudowane są kwestie sprawiedliwości społecznej, a same algorytmy potrafią być rażąco niesprawiedliwe i dyskryminujące. Linnett Taylor zajmuje się kwestiami sprawiedliwości danych, myśląc szczególnie o tych, którzy znajdują się w niekorzystnej sytuacji ekonomicznej i którzy są zwykle nieproporcjonalnie pokrzywdzeni nie tylko ze względu na pozycję, którą już zajmują, ale także przez korporacyjne profilowanie. Działanie na rzecz społeczeństwa obywatelskiego odrywa nas od myślenia w kategoriach jednostki w kontrze do państwa. Grupy społeczeństwa obywatelskiego zawsze szukają sposobów ostrzegania władz rządowych – które ponoszą odpowiedzialność za obywateli – iż ten szczególny rodzaj technologii ma negatywny wpływ na niektóre grupy społeczne, na ich życiowe szanse, a na pewno na ich rozwój jako istot ludzkich.

Ostatnie pytanie kieruję do Katarzyny Szymielewicz i dotyczy ono sytuacji w Polsce. Czy państwo polskie inwigiluje swoich obywateli bez ich wiedzy i zgody, a jeżeli tak, to w jakim zakresie i jak to się ma do proponowanych jeszcze niedawno zmian w Prawie Komunikacji Elektronicznej?

K.S.: Polski kontekst nie jest naszym zdaniem wyjątkowy, a badamy go od ponad dekady. Skala inwigilacji ze strony państwa nie jest w Polsce szokująca. Należy jednak zauważyć, iż mamy w tej kwestii coraz mniejszą jasność. Kiedy zaczynaliśmy naszą działalność jako Fundacja Panoptykon, informacje o skali inwigilacji otrzymywaliśmy, wysyłając wnioski w drodze dostępu do informacji publicznej. Później weszło w życie prawo nakazujące państwu publikowanie danych statystycznych na temat tego, w jaki sposób i w jakiej skali służby państwowe wykorzystują narzędzia inwigilacji. Rozwiązanie to działało od dłuższego czasu i dopiero niedawno się to zmieniło wraz z naszym obecnym rządem [rządzącą partią było wówczas Prawo i Sprawiedliwość – przyp. red.]. Informacje, które posiadamy, a które nie są bardzo szczegółowe, mówią o dużej liczbie 1,8 mln punktów danych dotyczących obywateli – w oparciu o retencję danych przez firmy telekomunikacyjne.

Zatem nie chodzi tutaj o podsłuchiwanie rozmów telefonicznych, czytanie wiadomości tekstowych lub e-maili, ale o lokalizację urządzeń: kto z kim rozmawiał, które telefony podróżują razem itp. Ale tak duże liczby zwykle wynikają ze sposobu, w jaki działają stacje bazowe telefonii komórkowej (tzw. BTS-y). jeżeli policja chce sprawdzić, czy konkretne urządzenie znajdowało się w określonej lokalizacji w określonym czasie – lub które urządzenia były tam obecne razem – zwykle konieczne jest zebranie danych z całej lokalizacji, a tym samym uzyskanie dostępu do ogromnych ilości danych. Podaję jedynie przykład tego, w jaki sposób służby państwowe wykorzystują dane, a nie bronię tego, iż 1,8 mln punktów danych jest w porządku. Nie wiem, czy jest w porządku.

Naszym zdaniem problem nie polega na tym, ile razy służby kogoś sprawdzały ani ile punktów danych technicznie uzyskały, ale w jaki sposób wykorzystano te dane, czy skala działań była adekwatna do celu i czy dane, które były nieistotne dla sprawy, zostały natychmiast usunięte bez żadnych innych konsekwencji.

Jeśli jednak rozważymy inny scenariusz, w którym policja używa jako pretekstu alarmu bombowego lub innego zdarzenia, które można łatwo wygenerować, aby przechwycić dane z jednego BTS-a w centrum Warszawy – a więc tworzy pulę danych, aby następnie wykorzystywać je operacyjnie – to tutaj mamy już sytuację niepokojącą. Podsumowując: skala pozyskiwania danych przez państwowe służby śledcze i wywiadowcze nie jest dla mnie bardzo niepokojąca, jeżeli rozumiem, w jaki sposób są one następnie wykorzystywane – a tego nie wiemy.

W Polsce mierzymy się w tej chwili z problemem braku skutecznego nadzoru nad tą dziedziną. Mamy sądy, które decydują o podsłuchach telefonicznych, ale to jest zupełnie inna skala – tysiące, a nie miliony rocznie. W praktyce sądy otrzymują wnioski, które są słabo uzasadnione i zbyt mało szczegółowe, aby sąd mógł w odpowiedzialny sposób zapoznać się z daną sprawą. A iż decyzje muszą zapadać bardzo szybko, w rezultacie 98% wniosków jest akceptowanych – co oznacza, iż dzieje się to niemal automatycznie i jako takie jest krytykowane przez członków wymiaru sprawiedliwości. Sędziowie są pod presją i – w praktyce nie mając narzędzi, aby wnikliwie rozpoznać dany wniosek – zwykle go akceptują, rozumując w taki sposób, iż gdyby doszło do niewłaściwego wykorzystania danych przez służby, będzie to możliwe do zweryfikowania, gdy sprawa będzie w toku, ponieważ dane uzyskane pod kontrolą sądu stają się częścią dokumentacji sprawy.

W związku z tym możemy przypuszczać, iż jeżeli dochodzi do niewłaściwego wykorzystania danych, powinno to być widoczne dla sędziego w trakcie rozwoju sprawy – zaś gdy sprawa zostanie zamknięta, dane pozyskane przez służby na potrzeby śledztwa powinny zostać zniszczone. Czy tak się dzieje?

Cóż, prawdopodobnie nie. W Polsce mieliśmy wielką aferę związaną ze stosowaniem przez służby m.in. wobec polityków opozycji szpiegowskiego systemu Pegasus, które oprócz śledzenia, podsłuchiwania i podglądania użytkownika telefona w czasie rzeczywistym umożliwia dostęp do wszystkich informacji zapisanych na urządzeniu, a także przeprowadzanie prowokacji, podrzucanie kompromitujących treści, a także tworzenie treści, które nigdy nie istniały (np. maili na koncie pocztowym użytkownika). Naszym zdaniem stosowania tego rodzaju systemu nie powinno się traktować na równi z podsłuchami telefonicznymi. Myślę, iż wygralibyśmy ten spór w sądzie, tylko co z tego? Takie rzeczy się zdarzają.

Dlatego, tak jak już wspominałam, podstawowym problemem nie jest skala, ale możliwość pociągnięcia do odpowiedzialności sprawców nadużyć, która w naszym kraju nie funkcjonuje. Fundacja Panoptykon wniosła sprawę w imieniu moim, mojego kolegi z fundacji – Wojciecha Klickiego – i kilku innych prawników, którzy mają powody sądzić, iż byliśmy przez jakiś czas inwigilowani. Argumentujemy, iż powinniśmy zostać o tym fakcie powiadomieni w momencie zamknięcia śledztw. Mamy nadzieję, iż Europejski Trybunał Praw Człowieka w Strasburgu potwierdzi, iż ten standard powinien obowiązywać w każdym europejskim kraju – i iż będziemy mieli w Polsce prawo, które zobowiąże służby do powiadamiania osób podsłuchiwanych o zamknięciu śledztwa, tak aby zwiększyć rozliczalność i transparentność tych działań. To jeden z przykładów prawnych zabezpieczeń, których nie mamy.

Tak jak wcześniej wspomniałam, nie mamy też skutecznego nadzoru cyfrowego, a dostęp do danych przechowywanych przez firmy telekomunikacyjne odbywa się zdalnie, bez jakiegokolwiek udziału wymiaru sprawiedliwości. Władza podjęła także próbę zmiany polskiego prawa na jeszcze łagodniejsze i bardziej elastyczne dla organów ścigania – została ona jednak zatrzymana na skutek społecznych protestów, w których braliśmy udział jako Fundacja Panoptykon. Celem wspomnianego projektu było rozszerzenie istniejącego mechanizmu retencji danych na usługi internetowe, a to z pewnością zwiększyłoby pulę danych dostępnych do zdalnego dostępu bez żadnego nadzoru.

Tak więc służby państwowe otrzymałyby dostęp nie tylko do danych z mojego telefonu, pochodzących od operatorów telekomunikacyjnych, ale także do danych, które są przechowywane przez wszystkich dostawców usług internetowych – co sięgałoby znacznie głębiej w nasze życie, umożliwiając wgląd w logi potencjalnie każdej aktywności podejmowanej online, każdego wysłanego e-maila, każdej rozmowy na czacie, każdej wiadomości w komunikatorze itp. w tej chwili osoby, które obawiają się, iż będą inwigilowane w oparciu o retencję danych i firmy telekomunikacyjne, mogą skorzystać z bezpieczniejszych aplikacji do czatowania, takich jak Signal lub Telegram. Nie są one kontrolowane ani przez firmy telekomunikacyjne, ani przez Big Tech, zaś ich użytkownicy mają poczucie, iż istnieje dla nich przynajmniej ta przestrzeń bezpiecznej komunikacji. Gdyby usługi te podlegały tym samym obowiązkom retencji danych, utracilibyśmy je. Tak więc walka przez cały czas trwa i na razie powstrzymaliśmy tę próbę w Polsce.

Dziękuję Wam za dyskusję.