Надзорное общество - Запад будет преследовать Китай?

Катарзина Шимилевич и профессор Дэвид Лион рассказывают о том, как за нами наблюдают государство и корпорации, подробностях систем мониторинга в Китае и Индии, ситуации в Польше и роли гражданского общества в борьбе за свободу.

(Текст переведен на английский язык, отредактирован и сокращен запись дебатов, состоявшихся 30.09.2023 в Варшаве во время 5-го геополитического форума, организованного Институтом гражданских дел).

Анна Тернер:История Польши представляет собой увлекательный контекст для дискуссий о слежке. Пожилые люди помнят времена государственной слежки в период тоталитаризма, в то время как молодое поколение испытывает различные формы контроля, включая мониторинг и обработку данных международными корпорациями. В настоящее время технологии видеонаблюдения затрагивают практически всех, особенно пользователей Интернета. Давайте начнем наш разговор с вопроса о вашем понимании общества надзора: можете ли вы определить важные моменты, которые сформировали его в последние годы?

Дэвид Лион: Это важный вопрос, и на него есть разные ответы. Я думаю о слежке в отношении данных, которые нас касаются, — такое широкое понимание стало решающим для многих вопросов.

Концепция слежки, которая, безусловно, известна в Польше, в первую очередь касается государственного наблюдения. Сегодня во многих, если не в большинстве стран мира, государство тесно связано с коммерческой деятельностью, с корпорациями, и поэтому эти две организации тесно сотрудничают. Часто оказывается, что государство использует коммерческие данные. Во время пандемии федеральное правительство Канады закупило данные у поставщика телекоммуникационных услуг (это были данные с мобильных телефонов) и использовало их, чтобы попытаться контролировать распространение вируса. Это наглядный пример того, как можно полагаться на данные коммерческих компаний. Сейчас это гораздо более сложный вопрос.

Когда я говорю о слежке, я имею в виду заинтересованность в каждом действии, в личной жизни, в каждой деятельности, раскрывающей другим некоторую информацию о нас, которая затем может быть собрана любым способом.

Мало того, что это буквально визуальное наблюдение, но сегодня это в первую очередь наблюдение с помощью мобильных устройств.

Катаржина Шимилевич: Я расскажу о том, как развивалась миссия и сфера деятельности Фонда Паноптикум в течение почти 15 лет. Как отметил Дэвид, основной целью нашей деятельности был анализ практики слежки за гражданами со стороны государства. В ситуации, когда мы столкнулись с международной войной с терроризмом и вопросом любой защиты прав человека, нам стало ясно, что мы перешли черту, установленную такими философами, как Фуко или Агамбен, для которых никто не защищен от террора государства. Если мы, как цивилизация, как сообщество, принимаем (мы никогда не принимали, но политики представляли это так, как будто мы это делаем) убийство кого-то в защиту нашего общества — это также означает, что мы сами можем быть убиты в защиту общества, из которого мы были исключены. Наблюдение за этой динамикой государственного надзора и принятие решения о том, кто находится внутри общества и кто находится вне его, кто заслуживает выживания и кто должен умереть, было первой великой идеей нашей работы 15 лет назад.

Чем больше мы изучали этот вопрос, тем больше обнаруживали сложную динамику власти, о которой говорил Дэвид, в которой рынок и государство работают рука об руку, чтобы оправдать необходимость мониторинга граждан, а также производство инструментов и инфраструктуры, позволяющих им, и что это по сути одна и та же экосистема. Поворотным моментом в этой дискуссии стали разоблачения Эдварда Сноудена, который без сомнения доказал, что так оно и есть, то есть что данные, собранные коммерческими компаниями, которые ранее были связаны со свободой, доступом к информации и мнением «самых крутых компаний мира», таких как Google, Facebook и других, были активной частью аппарата наблюдения. Тогда нам стало ясно, что основной целью нашей работы должно быть изучение практики, используемой этими компаниями. Это не означает, что государственный надзор больше не опасен. Да, но мы поняли, что так устроен мир.

Мы, наверное, не сможем заменить ненаблюдательное состояние государства наблюдения граждан, поэтому лучше создать какое-то регулирование, которое защищает права граждан. В какой-то степени государство должно выполнять свои функции, защищать нас, когда нам действительно нужна защита, и организовывать общественные услуги, когда они нам нужны, но наблюдение на рынке интернет-услуг не должно быть частью пакета.

За последние пять лет многие из наших действий касались таких компаний и их регулирования, а также потому, что слежка стала буквально невидимой и неуловимой для клиентов. Когда мы встречаемся с государственным надзором, мы знаем, что кто-то контролирует нас. Мы можем чувствовать себя запуганными, угрожающими, неудобными. Она совершенно иная в коммерческой среде, где продается нам в качестве удобства: «Ничего не делайте. Не решай. Мы сделаем это для тебя".

Я думаю, что эта новая волна слежки, основанная на инструментах, которые обеспечивают комфорт, предполагает, что люди становятся все более пассивными и «счастливыми» - они не выбирают это сознательно, а чувствуют себя счастливыми, отказавшись от активных выборов и просто поддаваясь предложениям, рекомендациям, целевой рекламе, наблюдая, как компании формируют их жизнь.

Это, наверное, гораздо опаснее для общественности, чем государственная слежка, потому что нам гораздо труднее остановиться — посмотреть, что происходит, и попытаться поставить это под сомнение. Именно это я сейчас считаю главной проблемой слежки.

Как исследователь, я увлекаюсь сравнительным анализом, особенно в контексте того, что общего у обществ и чем они отличаются. Исследования, проведенные в западных странах, показывают, что мы в значительной степени негативно относимся к слежке и использованию наших данных без нашего согласия. Однако следует отметить, что признание практики надзора возрастает, когда эти действия мотивированы соображениями безопасности. Другими словами, я не могу мириться с ситуацией, когда мои данные используются без моего ведома, но я передумал, когда убедился, что это необходимо для обеспечения безопасности.

Китай — это страна, которая совершенно отличается от нашего отношения к слежке. Я буду ссылаться на исследование, опубликованное несколько недель назад Арианой Ольер-Малатерре под названием «Жизнь с цифровым наблюдением в Китае: рассказы граждан о технологиях, конфиденциальности и управлении». Автор делает вывод: «Китайские респонденты, принявшие участие в исследовании, считают, что развитие технологий вернет Китаю былую славу, решив все китайские проблемы. Они принимают методы наблюдения, потому что видят в правительстве надежного опекуна, почти родителя, который нужен, когда «моральное качество» отсутствует. Иными словами, респонденты говорят, что это форма дисциплины, необходимая для противодействия хаосу в такой большой стране.Все в порядке. "

Таким образом, мы видим, насколько важно восприятие методов наблюдения в Китае, как в сравнении с исследованиями, проводимыми в западных странах, так и в контексте повествования, представленного западными СМИ, в котором китайская система социального доверия представлена в качестве примера макиавелизма, тоталитарного контроля. Каково ваше мнение по этому поводу и можно ли чему-то научиться у китайцев?

Д.Л.: Ситуация в Китае захватывающая и очень отличается от того, что мы испытываем в Канаде и, я понимаю, что вы испытываете здесь.

Культурные различия не позволяют мне проводить простые сравнения между этими культурами — мы, жители Запада, очень отличаемся от китайцев, сформированных наследием конфуцианства.

Соединенные Штаты, в частности, а также многие другие западные страны, склонны рассматривать Китай как своего рода предотвратимую антиутопию, приводящую к росту напряженности в двусторонних отношениях, с очень небольшим пониманием со стороны Запада того, что на самом деле происходит в Китае. Я согласен с тем, что книга Ариан является успешной попыткой ниспровергнуть некоторые стереотипы и грубые ошибки в нашем мышлении о Китае.

Вы указали на другой способ наблюдения за государством. Это связано с национальным унижением, которое китайцы испытали во многих отношениях в прошлом веке. Например, японское вторжение 1930-х годов до сих пор подвержено напряжённости в Китае. Это унижение влияет на то, как китайцы думают об отношениях между гражданином и государством. Мы имеем дело с фундаментальным отличием от западных стран. Что касается системы социального доверия, то китайцы боятся стыдиться низкого балла в Отчете о доверии - этот позор, на мой взгляд, гораздо сильнее, чем в западных обществах. Речь идет о подобных явлениях, но переживаемых по-разному из-за культурных условий.

В Китае мы имеем дело не столько с капитализмом слежки (имеется в виду название книги Шошана Зубова 2019 года), сколько с государственным капитализмом слежки.

Мы не можем просто применить диагноз Зубова к описанию китайской действительности, поскольку государственный фактор играет там гораздо большую роль, чем в Польше, Канаде, Великобритании или во многих других западных странах.

Поэтому, прежде чем мы углубимся в детализированные вопросы, давайте будем осторожны, чтобы не экстраполировать западные реалии на китайские реалии и не принимать ошибочные предположения, ни на мотивы, которые направляют поведение китайских граждан, ни на цели, которые направляют действия китайского правительства. Лично я не являюсь энтузиастом правления Си Цзиньпина, но пытаюсь понять его мотивы и предположения с учетом культурного контекста, в котором он функционирует.

Мы работаем без цензуры. Мы не рекламируем, мы не взимаем плату за сообщения. Нам нужна ваша поддержка. Бросьте себя в СМИ.

К.С.: Я полностью согласен с Дэвидом и, как и он, избегаю сравнивать нас с Китаем. Мне это кажется смешным. Это не критика вашего вопроса, я знаю, что вы его задаете, потому что это нарратив СМИ, о котором вы также упоминаете. У Китая нет никаких намерений. Если у них есть планы, они не сосредоточены на Польше, но они охватывают весь мир и отличный игровой процесс с гораздо более мощными игроками. Китай стал для нас своего рода дымовой завесой, чтобы скрыть проблемы, с которыми мы сталкиваемся на Западе, и сказать, что «мы не Китай», - это закрыть дебаты, которые должны продолжаться. Я думаю, что это в корне неправильно. Я думаю, что мы должны обратить пристальное внимание на Китай. Как Дэвид, Я не сторонник их практики как таковой, но последовательность, точность и разумность, с которыми они осуществляются, впечатляют.

Приведу два примера, о которых я не знал, пока не начал задавать себе вопросы о Китае. По словам исследователей, с которыми я разговаривал во время моих собственных исследований по этому вопросу, система социального доверия была разработана специально для социальной интеграции. Это та же ситуация, что и в других слаборазвитых странах, таких как Индия, где у людей нет документов, удостоверяющих личность, половина населения неучтена, не идентифицирована, а граждане не имеют личности по отношению к государству. Это совершенно другие реальности, чем наша, потому что нас считают, идентифицируют и контролируют.

Такие страны, как Китай и Индия, создают системы социальной интеграции жителей, чтобы они могли брать кредиты, путешествовать или получать льготы. Мы, с другой стороны, размещаем наши когнитивные фильтры на этих процессах и критикуем получение правительством информации о гражданах, не зная, какова их отправная точка и каковы проблемы этих программ.

Это было одно из размышлений, которое пришло ко мне во время обсуждения китайской системы социального доверия с человеком, который знает китайское общество гораздо лучше меня.

Другим примером являются крупные компании, такие как TikTok, которые столкнулись с большой критикой в Европе, и для этого есть веские причины. Однако на Западе мы не очень понимаем, как эти компании работают в Китае — мои наблюдения показывают, что они контролируются и что их деятельность подчинена государству, политика которого определяет их направление. Повторяю, я не большой поклонник этих решений, но если у нас есть сильное государство, которое может контролировать то, что делают контролирующие компании, и они не должны превышать определенные красные линии, например, они не могут предлагать детям то, что они предлагают детям здесь - в зависимости от технологий, предоставляя им контент, который дети никогда не должны видеть, манипулируя их умами (и, по-видимому, это не так в Китае, потому что отношения между этими компаниями и государством выглядят по-другому). Возможно, это то, чему мы могли бы научиться у китайцев.

Д.Л.: Я рассмотрю вопрос, который только что подняла Касия. На Западе мы часто называем Китай своего рода антиутопией, которой можно избежать. Это путь, по которому мы не хотим идти, потому что мы принимаем много предположений об этом, например, предполагается или даже утверждается, что китайская система социального доверия была разработана китайским государством для отслеживания и контроля всех граждан. Да, системы социального доверия, которые существуют в Китае, в основном управляются правительством, но они в основном оценивают корпоративную деятельность. Они не собирают данные об отдельных гражданах или потребителях.

В Китае нет единой системы социального доверия. По состоянию на 2014 год планируется разработать некоторые аспекты системы социального доверия, которые будут реализованы в 2020 году. Это не то, что случилось. По всей стране многие люди выступали против ее конкретных пассажей, а во многих городах корпорации отвергают определенные элементы системы социального доверия, поскольку считают, что она не соответствует задаче, к которой ее призвало правительство. Поэтому давайте не будем думать, что в Китае существует единая система тоталитарного контроля сверху вниз, осуществляемая властями Пекина. Это намного сложнее, гораздо более плавно и гораздо более открыто для конкурса. Со временем корпорации выступили против, изменили и отозвали некоторые из своих элементов.

Касия также упомянул Индию. Население Индии скоро превысит население Китая. Если мы ищем единую систему, которая включала бы каждого гражданина страны, почему бы нам не взглянуть на Индию, которая никогда не упоминается как государство, которому мы хотим подражать или избегать? Индия имеет одну центральную, организованную государством биометрическую систему регистрации (Aadhaar — ред.) — для ее создания премьер-министр Индии пригласил главу крупнейшей индийской технологической корпорации Infosys. В настоящее время зарегистрировано 1,4 миллиарда человек. В технологическом и административном плане эта система поразительна, построена в сложном темпе и основана на сканировании радужной оболочки глаза (а также на фотографиях лица и отпечатков пальцев). Сканирование 1,4 миллиарда человеческих радужной оболочки найдено в одной единой комплексной системе в Индии. Он играет чрезвычайно важную роль в индийской политике, но, конечно, он также подвергается большим спорам. Тем не менее, в данном случае мы имеем дело с биометрической системой, которая была инициирована государством, но реализована при поддержке крупной корпорации, и в которую фактически входят все граждане.

К.С.: Мы также можем упомянуть такие компании, как Meta или Alphabet, которые имеют системы, основанные на идентификации, используемые миллиардами людей, служат в качестве онлайн-провайдера идентификации и, возможно, в будущем - надеюсь, нет - доступ к их услугам будет получен через отпечатки пальцев, которые станут по умолчанию способом входа в систему. Это просто вопрос программирования устройств, мобильных телефонов и планшетов, которые мы используем для использования этих услуг. Такое решение оправдано тем, что оно быстрое, а людям нравится скорость, надежность, интуитивность; обещание, что они не будут взломаны - и они даже не рассматривают возможность передачи своих данных частным компаниям, хотя и выступают против того, чтобы государство их получало. Конечно, ты тоже. Он справится! В аэропортах Евросоюза у нас снимают отпечатки пальцев, и мы ничего не можем с этим поделать. Я хочу сказать, что такое будущее ждет нас и здесь, поэтому лучше сосредоточиться на практике власти здесь и сейчас, вместо того, чтобы требовать колониальных возражений против обучения других тому, как защищать частную жизнь своих граждан.

Должен сказать, что я также обратил внимание на снисходительный тон некоторых комментариев в западных СМИ, указывающий скорее на полное непонимание местных обстоятельств. Исследование Ариан Ольер-Малатер показывает, что многие граждане Китая даже не знают о существовании системы социального доверия, а программы цифрового наблюдения не слишком их волнуют.

Инновации появляются быстро и в больших масштабах. Насколько серьезны методы слежки на Западе, и достаточно ли сделано для того, чтобы контролировать и регулировать их законно? Возможно ли даже, что изменения в законодательстве, которые обычно довольно медленные, идут в ногу и идут в ногу с быстрым развитием технологий?

Д.Л.: Мы должны понять, что на самом деле происходит в нашем обществе. Я думаю, что это очень полезно в этом отношении. Работа Шошаны Зубофф О капитализме слежки. Я не согласен с некоторыми предложениями автора, но мы уважаем друг друга. Я думаю, что Шошана попал в ядро некоторых действительно важных аспектов сегодняшней практики слежки, отметив, что корпорации активно участвуют в сборе персональных данных и что эти данные получены на основе нашего повседневного поведения. Поэтому здесь мы имеем дело не с какой-то инопланетной силой, которая разоблачает и агрегирует информацию о нас. Дело в том, что благодаря нашей онлайн-активности, связанной с использованием цифровых устройств, мы постоянно производим данные, которые затем собираются. Они очень ценны и их можно заработать. Именно так они зарабатывают крупные цифровые корпорации, манипулируя этими данными с помощью алгоритмов, чтобы использовать их в своих целях и перепродавать другим.

Я уже упоминал ранее пример канадской корпорации Telus, которая во время пандемии продавала Канадскому агентству общественного здравоохранения данные об использовании мобильных телефонов и мобильном трафике. Никто из 33 миллионов человек, чьи данные были проданы правительству, не знал, что такая сделка происходит. Пандемия использовалась как предлог для быстрого сбора данных, и я полагаю, что люди в Канадском агентстве общественного здравоохранения даже не думали, что кто-то задаст им вопросы об этом. Но это так. Я считаю, что следует серьезно рассмотреть вопрос о том, как сейчас собираются и собираются данные граждан. Сегодня даже данные о наших отношениях с государством часто собираются в коммерческой сфере. Конечно, есть еще государственные службы безопасности, которые имеют доступ и используют наши данные.

Однако сегодня ключевой вопрос касается коммерческого использования персональных данных, которые также могут использоваться государственными органами.

От полиции (которая любит получать доступ к данным, предоставляемым корпорациями) до государственных учреждений здравоохранения, служб безопасности, а также различных государственных учреждений, деятельность которых часто зависит от информации. Иногда наши данные собираются этими учреждениями, но теперь они все чаще получаются от коммерческих агентств и корпораций.

К.С.: Вернемся к вопросу о том, можно ли закону идти в ногу с технологиями: Думаю, не стоит. Закон никогда не должен возникать до определения проблем, иначе мы бы рассматривали их как авторитарные, деспотические и антиутопические. Как будто вы знаете лучше, чем мы, как предотвратить проблемы, прежде чем мы их определим. Очень хорошим примером такого закона, который был создан на основе справедливого определения проблемы, является Общий регламент по защите данных (GDPR), поскольку он построен на предположениях, существовавших с 1970-х годов.

Речь идет о более чем пятидесяти годах, в течение которых в нашей реальности сработала идея о том, что никакие данные о человеке не должны собираться без уважительной причины, определенной в законе. Это может быть наилучшим интересом данного лица или его согласия. Но это также может быть государственной политикой, которая может оправдать необходимость таких действий. Мы, наверное, согласимся, что это очень хорошее правило. Тем не менее, это создает реальность, в которой государство может проводить гипотетическую политику, которая требует от граждан улыбаться при пересечении границы, и вводить сканирование лица, чтобы убедиться, что они улыбаются больше. Но мы можем сказать: нет, это противоречит закону. И боритесь с этим.

Если мы, граждане, знаем, что мы защищаем, если мы мотивированы защищать нашу свободу, мы можем победить. Если нет, то есть если мы действительно подчинимся нарративам, которые предлагают нам ложное обещание безопасности в обмен на нашу свободу, то даже лучшие предположения не помогут нам, потому что мы не будем защищать их в конкретном случае, когда наша свобода нарушается. Или, что еще хуже, мы будем убеждены, что это ситуация, когда наше согласие не должно иметь значения.

Так много для государства, но давайте поговорим о рынке, который десятилетиями регулировался законом о защите данных, и все же такие компании, как Alphabet (ранее известный как Google) или Meta (ранее известный как Facebook), разработали удивительную камеру наблюдения, которую даже Китай не смог бы построить в одиночку без участия коммерческих компаний (как они это делают сейчас). Как это было возможно? С одной стороны, эти компании были созданы в стране, где не было никаких правил, а именно в США. Сейчас в США идет ожесточенная дискуссия по этому вопросу, где возникают вопросы о том, как такая ситуация могла произойти. Я слышал от американских политиков и ученых, как они сожалеют об этом. Но были причины, по которым эти правила не были введены - это были причины экономического развития и конкретного подхода к свободе как к ценности по умолчанию, пока ущерб, нанесенный общественности, не был достаточно очевидным, чтобы ограничить свободу корпораций работать. Мы не видим, как много корпорации делают для защиты этой свободы действий, и американское общество выбрало этот нарратив. Он принял действия цифровых гигантов, потому что был обманут обещаниями комфорта, развития, бесплатных, привлекательных услуг и так далее.

Так всё и началось. Затем эти процессы достигли Европы, и, несмотря на то, что у нас были свои правила и положения, этим великим игрокам рынка удалось обойти их во многих аспектах, в основном из-за их невероятной способности создавать повествования. Наши суды, Европейская комиссия и даже неправительственные организации, представляющие граждан, долгое время эффективно противостояли им, формулируя противоположный нарратив. Книга Шошаны Зубофф сыграла ключевую роль в этом процессе, поэтому независимо от того, что я думаю о ее аргументах, мне нравится общий способ представления проблемы слежки капитализма и размещения компаний, ответственных за создание этой системы и обход многих гарантий. Книга Зубоффа была одним из многих предупреждающих сигналов, таких как скандал с Cambridge Analytics или откровения Эдварда Сноудена. Лица, принимающие решения, понимали, с чем они имеют дело, и что суть проблемы не в рекламе обуви, которая отображается потребителям с их согласия в таких сервисах, как Facebook. Дело не в этом. Проблема в поведенческих излишках, которые определил Зубов, и о которых мы сегодня тоже говорили.

Речь идет о данных по нашей теме, о нашем поведении, выборе, предпочтениях, которые собираются и используются без нашего согласия или даже без нашего осознания.

Долгое время компании избегали последствий, хотя существовали правила, регулирующие эти вопросы, утверждая, что это не личные данные. Это показывает, в чем реальная проблема технологий. Мы часто не понимаем их достаточно, чтобы принять соответствующие правила. Если бы у нас было другое повествование и лучшее понимание того, что происходит по ту сторону наших экранов, мы могли бы лучше применить существующие правила, которые у нас были до рождения Facebook, и прекратить эти практики. Однако это было вне досягаемости обществ.

Такие люди, как мы — неправительственные организации, университетские преподаватели, хакеры, такие группы, как Chaos Computer Club в Германии или Electronic Frontier Foundation в США — предупреждали, что эти процессы происходят, но это была ниша, авангард, не полностью понятая, пока не появились громкие имена, такие как Зубофф, или популярные фильмы, такие как «Социальная дилемма» на платформе Netflix, которые изменили это повествование. Нашим обществам потребовалось два десятилетия, чтобы понять, что происходит. Вот в чем проблема. Я бы не стал возлагать всю вину на закон, и я бы никогда не призвал юристов действовать быстрее, прежде чем проблемы будут определены. Слишком долго мы представляли общественности вопросы, связанные с использованием таких сервисов, как Facebook, как проблему индивидуального выбора, а не огромную социальную проблему. Теперь, когда ситуация изменилась, у нас появились новые правила, мы обсуждаем социальный ущерб, а не отдельные неудачи, но это заняло у нас два десятилетия. Возникает вопрос: можно ли ускориться? Можно ли быстрее анализировать явления, порожденные новыми технологиями? Если мы работаем с такой скоростью и нам нужно еще два десятилетия, чтобы понять работу новых служб, это не является условием для поддержания свободы.

Д.Л.: Я согласен с тобой, Кейт. Важно поместить то, что мы обсуждаем, в правильный контекст. Так же, как роль культурных факторов в Китае и Индии важна, так и на Западе, я отмечаю два аспекта, которые, на мой взгляд, имеют решающее значение в этой ситуации. Одним из них является убеждение, что технология является ключом к решению всех наших проблем, что является частью идеи технологического решения. Это всего лишь миф, но компании хотят, чтобы мы в него верили. Второй элемент — это наше восприятие собственных действий через призму удобства. Комфорт был поднят до наивысшей ценности, хотя я думаю, что он не должен занимать это место. Поэтому, когда нам продают iPhone или другое устройство такого типа, главным аргументом его покупки обычно является удобство (не говоря уже о том, что за это удобство мы платим на несколько сотен долларов больше). Идея удобства была очень эффективно реализована в нашем сознании как потребителя.

Я полностью согласен с Касией в том, что культурные факторы сыграли существенную роль в провале государственных институтов, введя правила, ограничивающие действия цифровых гигантов. Тем не менее, тот факт, что эти компании функционируют так, как будто они никому не отвечают, в первую очередь обусловлен культурным фоном веры в то, что у нас есть технологические ответы на все проблемы, а также верой в то, что комфорт является неотъемлемой человеческой ценностью.

Когда вы говорите об этом, я вспоминаю статью, которую вы написали вместе с Зигмунтом Бауманом, среди прочего, «После Сноудена: переосмысление воздействия наблюдения», в которой вы определяете три фактора, которые влияют на принятие практики наблюдения: страх, развлечения и знания. Я уже говорил о страхе, и он часто основывается на том, что государственные органы убеждают в необходимости следить за данными и информацией, чтобы обеспечить безопасность граждан. Развлечения развивались от довольно простых механизмов, на которые изначально полагались социальные сети, таких как контакт с давно потерянными друзьями, до удобства, которое стало ключевой ценностью. С другой стороны, знание методов наблюдения — это не что иное, как повсеместное присутствие слежки вокруг нас во многих отношениях и во многих местах, которые мы больше не замечаем.

Это подводит меня к другому вопросу об ответственности. Я буду ссылаться на опрос Eurobarometer, в котором респондентов спрашивают, кто, по их мнению, должен гарантировать, что персональные данные, которые они предоставляют в Интернете, собираются, хранятся и передаются безопасно: правительство, интернет-компании или они сами? В большинстве стран респонденты считают себя ответственными. Разве не удивительно, что люди чувствуют, что у них есть какой-то контроль над обработкой своих данных, хотя на самом деле, зная принципы системы надзора за капитализмом, они мало что могут сделать?

К.С.: Это не то, как они к этому относятся, это то, что им сказали. Я вижу здесь сходство с экологическими нарративами, когда крупнейшим мировым компаниям стало совершенно ясно, что проблемы были замечены и загрязнению нашей планеты это не сойдет с рук (это было около 20 лет назад). Смена нарратива, финансируемая этими компаниями, часто производилась фальшивым способом, чтобы у получателя создалось впечатление, что он имеет дело с гражданскими кампаниями, например, для сокращения потребления пластика или сокращения авиаперевозок. Это здорово, когда поведение потребителей становится более ответственным, но это последняя часть головоломки, потому что реальная власть всегда на стороне тех, кто создает тенденции, производит товары, а затем продает их нам. Для крупных компаний изменение способа производства, например, сокращение потребления пластика, — это вопрос одного решения — в то время как потребители со временем сокращаются на столь многих уровнях, экономическое давление или отсутствие доступа к другим товарам, что попытка компаний переложить на них ответственность, например, за климатический кризис, просто несправедлива, и мы должны решительно бороться с такого рода повествованием.

В то же время я считаю, что есть действия, которые любой может предпринять для защиты своей конфиденциальности. Например, не всегда берите с собой телефон. Или подумайте дважды, прежде чем устанавливать что-либо на него, а также не позволяйте устройству использовать местоположение, если это абсолютно необходимо. Есть вещи, которые мы можем сделать, и очень дорогие устройства, такие как iPhone, помогают нам сделать этот выбор, потому что мы платим производителю за большую защиту. Но доступен ли такой вариант среднему потребителю? Вовсе нет. Это роскошный сервис для немногих, но продается по вашему выбору: "Хотите ли вы, чтобы вас защищали? Купите еще более дорогое устройство. Подумайте дважды, прежде чем что-то сделать». Это нечестно.

Мы должны атаковать тех, кто способен изменить экосистему, изменить логику сервисов и бизнес-модели, стоящие за сервисами — избыточное поведение, так точно описанное Зубоффом. Мы никогда не должны позволять компаниям собирать и эксплуатировать наш «поведенческий избыток» — для них это только данные, а для нас это наша жизнь, оцифрованные следы нашей жизни, которые никогда не должны становиться частью сервиса. И именно поэтому ответственность за это лежит на компаниях, потому что мы не можем удалить следы нашей жизни с устройств и услуг, которые мы используем в этой жизни. Это невозможно. Я могу отказаться от совместного использования мест или получения уведомлений, но я не могу отказаться от обмена своими поведенческими данными с Google, потому что их службы работают в некоторой степени на основе этих данных. Это должно измениться, и мы должны постоянно оказывать давление и требовать ответственности от цифровых гигантов.

Д.Л.: Я согласен с тем, что как люди мы можем быть более осторожными. Может быть, не так осторожно, как я пытаюсь быть. У меня нет мобильного телефона, что является настоящим неудобством для людей, которые хотят со мной связаться. Поэтому, не разделяя убеждение, что удобство является высшей ценностью, известной людям, я становлюсь неудобным для других. Но это другая история.

Проблемы, о которых мы говорим, это не индивидуальные проблемы. Мы можем воспринимать их как личности, но они носят социальный характер.

То, как нас воспринимают цифровые корпорации, зависит не только от нашего потока данных, но и от тех, с кем мы связаны и с кем мы контактируем. Эта группа создает наши профили. Когда вы доступны в Интернете, ваш профиль создается на основе ваших контактов - как деловых, так и частных.

Никто не делает вид, что это касается только нас как личностей, и очень важно, чтобы мы это осознали. Это та область, в которой, на мой взгляд, гражданское общество имеет решающее значение. Именно гражданские организации, такие как Фонд Panoptycon, решают эти проблемы и предлагают решения поставленных проблем. В США ученый-компьютерщик и активист Джой Буоламвини основала Лигу алгоритмической справедливости, чтобы помочь разработчикам алгоритмов понять, что при их создании возникают проблемы социальной справедливости, а сами алгоритмы могут быть крайне несправедливыми и дискриминационными. Линнетт Тейлор занимается вопросами справедливости данных, особенно в отношении тех, кто находится в невыгодном экономическом положении и которые обычно находятся в непропорционально неблагоприятном положении не только из-за позиции, в которой они уже находятся, но и из-за корпоративного профилирования. Действия гражданского общества отделяют нас от мышления людей в противоположных государствах. Группы гражданского общества всегда ищут способы предостеречь государственные органы, которые несут ответственность за граждан, о том, что этот конкретный тип технологии оказывает негативное влияние на определенные социальные группы, на их шансы на жизнь и, конечно, на их развитие как людей.

Последний вопрос адресован Катаржине Шимилевиц и касается ситуации в Польше. Наблюдает ли польское государство за своими гражданами без их ведома и согласия, и если да, то в какой степени и как это относится к предлагаемым последним изменениям в Законе об электронных коммуникациях?

К.С.: Польский контекст не уникален, и мы изучаем его уже более десяти лет. Масштаб слежки со стороны государства в Польше не шокирует. Однако следует отметить, что мы все менее и менее четко относимся к этому вопросу. Когда мы начинали свой бизнес как Фонд «Паноптикон», мы получали информацию о масштабах слежки, отправляя запросы через доступ к публичной информации. Позже вступил в силу закон, предписывающий публиковать статистические данные о том, как и в каком масштабе государственные службы используют инструменты наблюдения. Это решение работает уже давно, и только недавно это изменилось с нашим нынешним правительством (правящей партией тогда была "Право и справедливость"). Имеющаяся у нас информация, которая не очень подробная, говорит о большом количестве 1,8 млн точек данных о гражданах - на основе хранения данных телекоммуникационными компаниями.

Так что речь идет не о подслушивании телефонных звонков, чтении текстовых сообщений или электронных писем, а о местонахождении устройств: кто с кем разговаривал, какие телефоны путешествуют вместе и т.д. Но такие большие числа обычно возникают из-за того, как работают базовые станции мобильной связи (так называемые BTS). Если полиция хочет проверить, находилось ли конкретное устройство в определенном месте в определенное время или какие устройства присутствовали вместе, обычно необходимо собрать данные из всего местоположения и таким образом получить доступ к огромным объемам данных. Я просто привожу пример того, как государственные службы используют данные, не защищая, что 1,8 миллиона точек данных в порядке. Я не знаю, все ли в порядке.

На наш взгляд, проблема не в том, сколько раз проверяла служба или сколько точек данных они технически получили, а в том, как эти данные использовались, был ли масштаб действия адекватным для цели и были ли данные, не имеющие отношения к делу, немедленно удалены без каких-либо других последствий.

Однако, если мы рассмотрим другой сценарий, в котором полиция использует сигнализацию о бомбе или другое событие, которое может быть легко сгенерировано для перехвата данных от одной БТС в центре Варшавы, поэтому она создает пул данных для их оперативного использования, - вот где у нас есть тревожная ситуация. Подводя итог: масштабы сбора данных государственными следственными и разведывательными службами меня не очень беспокоят, если я понимаю, как они тогда используются, — и мы этого не знаем.

В Польше мы сейчас имеем дело с проблемой отсутствия эффективного надзора в этой сфере. У нас есть суды, которые принимают решения по телефонным прослушкам, но это совсем другой масштаб — тысячи, а не миллионы в год. На практике суды получают жалобы, которые являются плохо обоснованными и недостаточно подробными, чтобы суд мог рассматривать дело ответственно. И поскольку решения должны приниматься очень быстро, в результате 98% предложений принимаются, а это значит, что это почти автоматически и как таковое подвергается критике со стороны членов судебной власти. Судьи находятся под давлением, и на практике, не имея инструментов для точной идентификации заявления, они обычно принимают его, думая, что если данные были неправильно использованы службой, можно будет проверить, когда дело находится на рассмотрении, поскольку данные, полученные под судебным контролем, становятся частью материала дела.

Таким образом, мы можем предположить, что если данные используются неправильно, это должно быть видно судье во время разработки дела - и когда дело закрыто, данные, полученные службами для расследования, должны быть уничтожены. Это то, что происходит?

Ну, возможно, нет. В Польше у нас было много информации об использовании сервисом шпионского программного обеспечения Pegasus, которое, помимо отслеживания, прослушивания и наблюдения за пользователем смартфона в режиме реального времени, позволяет получать доступ ко всей информации, хранящейся на устройстве, а также проводить провокации, выводить компрометирующий контент и создавать контент, которого никогда не было (например, сообщения электронной почты в учетной записи пользователя). По нашему мнению, использование такого программного обеспечения не должно рассматриваться так же, как прослушивание по телефону. Я думаю, мы могли бы выиграть этот спор в суде, но что? Такие вещи случаются.

Поэтому, как я уже говорил, главная проблема не в масштабах, а в способности привлечь виновных в злоупотреблениях к ответственности, которая в нашей стране не функционирует. Фонд Panoptykon возбудил дело от имени меня, моего коллеги по фонду Войцеха Клики и нескольких других адвокатов, у которых есть основания полагать, что мы некоторое время находились под наблюдением. Мы утверждаем, что мы должны быть проинформированы об этом факте в момент закрытия расследования. Мы надеемся, что Европейский суд по правам человека в Страсбурге подтвердит, что этот стандарт должен применяться в каждой европейской стране, и что мы будем иметь право в Польше обязать службы уведомлять людей, находящихся под наблюдением, о закрытии расследования, чтобы повысить подотчетность и прозрачность этих действий. Это один из примеров правовых гарантий, которых у нас нет.

Как я уже упоминал ранее, у нас также нет эффективного цифрового наблюдения, и доступ к данным, хранящимся телекоммуникационными компаниями, удален, без какого-либо участия судебных органов. Власти также попытались изменить польское законодательство на еще более мягкое и гибкое для правоохранительных органов, но оно было остановлено из-за социальных протестов, в которых мы участвовали в качестве фонда Panoptykon. Цель этого проекта состояла в том, чтобы распространить существующий механизм хранения данных на онлайн-сервисы, и это, безусловно, увеличит объем данных, доступных для удаленного доступа без какого-либо надзора.

Таким образом, государственные службы будут иметь доступ не только к данным с моего телефона, поступающим от операторов связи, но и к данным, которые хранятся всеми интернет-провайдерами, что позволит глубже проникнуть в нашу жизнь, позволяя понять журналы потенциально каждой онлайн-активности, каждой отправленной электронной почты, каждого чата в чате, каждого сообщения в коммуникаторе и т. Д. Сегодня люди, которые опасаются, что за ними будут следить на основе хранения данных и телекоммуникационных компаний, могут использовать более безопасные приложения чата, такие как Signal или Telegram. Они не контролируются телекоммуникационными компаниями или Big Tech, и их пользователи чувствуют, что для них есть хотя бы это пространство безопасной связи. Если бы эти услуги были связаны с теми же обязательствами по хранению данных, мы бы их потеряли. Так что борьба продолжается, и до сих пор мы остановили эту попытку в Польше.

Спасибо за обсуждение.