Инженерная реальность: век культурного контроля, часть III. Алгоритмический век

Автор Joshua Stylman via substack,

Век культурного контроля от монополий Эдисона до алгоритмических манипуляций

Записка автора: В течение многих лет я понимал, что реклама предназначена для манипулирования поведением. Как человек, изучавший механику маркетинга, я считал себя образованным потребителем, способным ориентироваться в рациональных рыночных решениях. Я не понимал, как эта психологическая архитектура формирует каждый аспект нашего культурного ландшафта.. Это расследование началось с любопытства по поводу связей музыкальной индустрии с спецслужбами. Она превратилась в комплексное исследование того, как властные структуры систематически формируют общественное сознание.

То, что я обнаружил, показало мне, что даже мои самые циничные предположения о культуре производства едва поцарапали поверхность. Это откровение коренным образом изменило не только мое мировоззрение, но и мои отношения с теми, кто не может или не хочет изучать эти механизмы контроля. Эта работа призвана сделать видимым то, что многие имеют смысл, но не могут полностью сформулировать - помочь другим увидеть эти скрытые системы влияния. Потому что распознавание манипуляций — это первый шаг к сопротивлению.

Это расследование разворачивается в трех частях: В части Во-первых, мы рассмотрели основные системы контроля, установленные в начале 20-го века. Во второй части мы исследовали, как эти методы развивались через поп-культуру и контркультурные движения. Наконец, в части Ниже мы рассмотрим, как эти методы были автоматизированы и усовершенствованы с помощью цифровых систем.

Алгоритмический век

Изучив физические и психологические механизмы контроля в первой части и их развертывание через культурную инженерию во второй части, мы теперь обратимся к их окончательной эволюции: автоматизации контроля сознания с помощью цифровых систем.

В своем исследовании технологического комплекса я задокументировал, как сегодняшние цифровые гиганты не просто кооптировались силовыми структурами - многие из них были потенциально разработаны с самого начала в качестве инструментов массового наблюдения и социального контроля. От истоков Google в проекте ЦРУ, финансируемом DARPA, до семейных связей основателя Amazon с ARPA, это были не просто успешные стартапы, которые позже соответствовали государственным интересам.

То, что Тависток обнаружил за годы тщательного изучения — эмоциональный резонанс превосходит факты, влияние сверстников перевешивает авторитет, а косвенные манипуляции преуспевают там, где прямая пропаганда терпит неудачу — теперь формирует основополагающую логику алгоритмов социальных сетей. Исследование Facebook по манипулированию эмоциями и A/B-тестирование миниатюр Netflix (более подробно изученное позже) иллюстрируют цифровую автоматизацию этих вековых идей, поскольку системы ИИ выполняют миллиарды экспериментов в реальном времени, постоянно совершенствуя искусство влияния в беспрецедентных масштабах.

Подобно тому, как Лорел каньон служил физическим пространством для управления культурой, современные цифровые платформы функционируют как виртуальные лаборатории для управления сознанием. Платформы социальных сетей масштабировали эти принципы с помощью показателей усиления влияния и взаимодействия. Открытие того, что косвенное влияние превосходит прямую пропаганду, теперь определяет, как платформы тонко настраивают видимость контента. То, что когда-то требовало долгих лет тщательного психологического исследования, теперь может быть проверено и оптимизировано в режиме реального времени с помощью алгоритмов, использующих миллиарды взаимодействий для совершенствования своих методов воздействия.

Манипулирование музыкой отражает более широкую эволюцию в культурном контроле: то, что началось с локализованного программирования, как эксперименты Лорел каньона в контркультуре, теперь перешло в глобальные, алгоритмически управляемые системы. Эти цифровые инструменты автоматизируют те же механизмы, формируя сознание в беспрецедентных масштабах.

Подход Netflix параллелен принципам манипулирования Бернейса в цифровой форме - возможно, неудивительно, что соучредителем Марком Бернейсом Рэндольфом был правнук Эдварда Бернейса и правнук Зигмунда Фрейда. Там, где Бернейс использовал фокус-группы для тестирования сообщений, Netflix проводит масштабное A/B-тестирование миниатюр и заголовков, показывая разные изображения разным пользователям на основе их психологических профилей. Их алгоритм рекомендаций не просто предлагает контент - он формирует шаблоны просмотра, контролируя видимость и контекст, и контекст, подобно тому, как Бернейс организовал всесторонние рекламные кампании, которые формировали общественное восприятие по нескольким каналам. Точно так же, как Бернейс понимал, как создать идеальную среду для продажи продуктов, например, продвигать музыкальные комнаты в домах, чтобы продавать пианино, Netflix создает персонализированные интерфейсы, которые направляют зрителей к определенному выбору контента. Их подход к производству оригинального контента также основан на анализе массовых психологических данных для создания повествований для конкретных демографических сегментов.

Более коварно, контент-стратегия Netflix активно формирует общественное сознание посредством выборочного продвижения и захоронения контента. В то время как фильмы, поддерживающие повествования истеблишмента, получают заметное размещение, документальные фильмы, ставящие под сомнение официальные аккаунты, часто оказываются погребенными в наименее заметных категориях платформы или полностью исключены из алгоритмов рекомендаций. Даже такие успешные фильмы, как Что такое женщина? Он столкнулся с систематическим подавлением на нескольких платформах, демонстрируя, как цифровые привратники могут эффективно стирать сложные перспективы, сохраняя иллюзию открытого доступа.

Я лично испытал эту цензуру. Мне посчастливилось стать продюсером анекдотыРежиссер Дженнифер Шарп, фильм, документирующий травмы от вакцины COVID-19, включая ее собственные. YouTube удалил его в первый день, заявив, что люди не могут обсуждать свой собственный опыт вакцинации. Только после вмешательства сенатора Рона Джонсона фильм был восстановлен — яркий пример того, как цензура платформы замалчивает личные рассказы, которые бросают вызов официальным аккаунтам.

Этот шлюз распространяется по цифровому ландшафту. Контролируя, какие документальные фильмы занимают видное место, какие иностранные фильмы доходят до американской аудитории и какие перспективы освещаются в их оригинальном программировании, такие платформы, как Netflix, выступают в качестве культурных привратников. Там, где более ранние системы полагались на человеческих привратников для формирования культуры, потоковые платформы используют алгоритмы анализа данных и рекомендаций для автоматизации управления сознанием. Контент-стратегия и системы продвижения платформы представляют принципы психологической манипуляции Бернейса, действующие в беспрецедентных масштабах.

Оригинальное название: Engineering the Self

До того, как социальные сети превратили миллиарды в своих собственных создателей контента, Reality TV усовершенствовал шаблон для самокоммодизации. Кардашьяны продемонстрировали этот переход: превращаясь из звезд реалити-шоу в влиятельных лиц цифрового века, они показали, как превратить личную аутентичность в товарный бренд. Их шоу не просто изменило общественные нормы в отношении богатства и потребления - оно стало мастер-классом в отказе от подлинного человеческого опыта для тщательно отобранной работы. Зрители узнали, что быть самим собой менее ценно, чем стать брендом, что подлинные моменты имеют меньшее значение, чем искусственный контент, что реальные отношения вторичны по отношению к сетевому влиянию.

Эта трансформация от человека к человеку достигнет своего пика в социальных сетях, где миллиарды теперь охотно участвуют в своих собственных поведенческих изменениях. Пользователи учатся подавлять подлинное выражение в пользу алгоритмических вознаграждений, фильтровать подлинный опыт через объектив потенциального контента, ценить себя не внутренними мерами, а метриками лайков и акций. То, что было первопроходцем Reality TV - добровольная сдача конфиденциальности, замена подлинного «я» на рыночный образ, трансформация жизни в контент - социальные сети демократизировались бы в глобальном масштабе. Теперь каждый может стать собственным реалити-шоу, торгующим подлинностью для участия.

Instagram олицетворяет эту трансформацию, обучая пользователей рассматривать свою жизнь как контент, который нужно курировать, их опыт как возможности для фотографий, их воспоминания как истории, которыми можно поделиться с общественностью. «Экономика влияния» платформы превращает подлинные моменты в маркетинговые возможности, обучая пользователей изменять свое фактическое поведение — куда они идут, что они едят, как они одеваются — для создания контента, который алгоритмы будут вознаграждать. Это не просто обмен жизнью в Интернете — это изменение самой жизни для обслуживания цифрового рынка.

Несмотря на то, что эти системы становятся все более распространенными, их пределы становятся все более заметными. Те же инструменты, которые позволяют манипулировать культурными течениями, также показывают его хрупкость, поскольку аудитория начинает бросать вызов манипулятивным повествованиям.

Трещины в системе

Несмотря на свою изощренность, система управления начинает показывать трещины. Все чаще общественность выступает против вопиющих попыток культурной инженерии, о чем свидетельствуют нынешние отказы потребителей и избирателей.

Недавние попытки очевидной культурной эксплуатации, такие как корпоративные маркетинговые кампании и основанные на знаменитостях нарративы, начали терпеть неудачу, сигнализируя о поворотном моменте в общественной терпимости к манипуляциям. Когда в 2023 году Bud Light и Target – компании с их собственными глубокими связями с истеблишментом – столкнулись с массовой реакцией потребителей из-за своих кампаний по обмену социальными сообщениями, скорость и масштаб отказа ознаменовали значительный сдвиг в поведении потребителей. Крупные инвестиционные компании, такие как BlackRock, столкнулись с беспрецедентным противодействием инициативам ESG, наблюдая значительные оттоки, которые заставили их пересмотреть свой подход. Даже влияние знаменитостей потеряло свою силу для формирования общественного мнения - когда десятки знаменитостей из списка А объединились за одним кандидатом на выборах 2024 года, их скоординированные одобрения не только не смогли повлиять на избирателей, но, возможно, имели неприятные последствия, что свидетельствует о растущей усталости общественности от искусственного консенсуса.

Общественность все чаще признает эти манипуляции. Когда вирусные видеоролики разоблачают десятки ведущих новостей, читающих идентичные сценарии об «угрозах нашей демократии», фасад независимой журналистики рушится, раскрывая продолжающуюся работу систематического контроля над повествованием. Авторитет унаследованных СМИ рушится, с частыми разоблачениями постановочных рассказов и искаженных источников, раскрывающих сохранение централизованных систем обмена сообщениями.

Даже индустрия проверки фактов, призванная поддержать официальные нарративы, сталкивается с растущим скептицизмом, поскольку люди обнаруживают, что эти «независимые» арбитры истины часто финансируются теми самыми силовыми структурами, которые, как они утверждают, контролируют. Предполагаемые хранители истины вместо этого служат исполнителями приемлемой мысли, их финансирование ведет непосредственно к организациям, которые они должны контролировать.

Общественное пробуждение выходит за рамки корпоративных сообщений и приводит к более широкому осознанию того, что якобы органические социальные изменения часто создаются. Например, в то время как большинство людей узнали о Тавистокском институте только благодаря недавним спорам о гендерно-подтверждающем уходе, их реакция намекает на более глубокое осознание того, что культурные сдвиги, давно принятые в качестве естественной эволюции, могут вместо этого иметь институциональных авторов. Хотя мало кто до сих пор понимает историческую роль Тавистока в формировании культуры со времен наших бабушек и дедушек, все большее число людей сомневаются в том, что, казалось бы, спонтанные социальные преобразования, возможно, были преднамеренно организованы.

Это растущее признание сигнализирует о фундаментальном сдвиге: по мере того, как аудитория становится более осведомленной о методах манипуляции, эффективность этих систем управления начинает снижаться. Тем не менее, система предназначена для того, чтобы провоцировать интенсивные эмоциональные реакции (чем более возмутительные, тем лучше) именно для предотвращения критического анализа. Сохраняя общественность в постоянном состоянии реакционного возмущения, будь то защита или нападение на таких фигур, как Трамп или Маск, это успешно отвлекает от изучения основных структур власти, в которых эти фигуры работают. Повышенное эмоциональное состояние служит идеальным щитом от рационального исследования.

Прежде чем детально изучить современные механизмы цифрового управления, эволюция от аппаратных монополий Эдисона до психологических операций Тавистока и современных алгоритмических систем управления показывает не только естественный исторический прогресс, но и то, как каждый этап намеренно построен на последнем для достижения одной и той же цели. Физический контроль над распространением медиа превратился в психологическую манипуляцию контентом, которая теперь автоматизирована с помощью цифровых систем. По мере того, как системы ИИ становятся все более изощренными, они не просто автоматизируют эти механизмы управления — они совершенствуют их, обучаясь и адаптируясь в режиме реального времени через миллиарды взаимодействий. Мы можем визуализировать, как различные области власти - финансы, СМИ, интеллект и культура - слились в интегрированную сеть социального контроля. Хотя эти системы изначально работали независимо, теперь они функционируют как единая сеть, усиливая и усиливая другие. Эта структура, усовершенствованная более века, достигает своего окончательного выражения в цифровую эпоху, когда алгоритмы автоматизируют то, что когда-то требовало тщательной координации между человеческими властями.

Цифровая эндшпиль

Современные цифровые платформы представляют собой кульминацию методов управления, разработанных за последнее столетие. Там, где их исследователям когда-то приходилось вручную изучать динамику групп и психологические реакции, системы ИИ теперь выполняют миллиарды экспериментов в реальном времени, постоянно совершенствуя свои методы влияния с помощью массивного анализа данных и отслеживания поведения. То, чего Томас Эдисон достиг благодаря физическому контролю над фильмами, современные технологические компании теперь достигают с помощью алгоритмов и автоматической модерации контента.

Конвергенция надзора, алгоритмов и финансовых систем представляет собой не просто эволюцию техники, но и эскалацию масштабов. Эта конвергенция проявляется в дизайне. Подумайте о том, что Facebook запустила в тот же день, когда DARPA закрыла LifeLog, их проект по отслеживанию всего существования человека в Интернете. Или что крупные технологические платформы теперь используют многочисленных бывших сотрудников разведки в своих командах «Доверие и безопасность», определяя, какой контент усиливается или подавляется.

Платформы социальных сетей собирают подробные поведенческие данные, которые алгоритмы анализируют для прогнозирования и формирования действий пользователей. Эти данные все чаще поступают в финансовые системы через кредитный рейтинг, целевую рекламу и новые цифровые валюты Центрального банка. Вместе они создают замкнутый цикл, в котором наблюдение совершенствует таргетинг, формирует экономические стимулы и обеспечивает соблюдение доминирующих норм порядка на самом детальном уровне.

Эта эволюция проявляется конкретными способами:

• Инфраструктурная монополия Эдисона стала собственностью платформы

• Психологические исследования Тавистока стали алгоритмами социальных сетей

• Медиа-проникновение Mockingbird стало автоматической модерацией контента

• Моральный контроль Кодекса Хейса стал руководящим принципом сообщества

В частности, оригинальный план Эдисона по управлению эволюционировал в цифровую форму:

• Его контроль над производственным оборудованием стал собственностью платформы и облачной инфраструктурой.

• Управление дистрибуцией театра стало алгоритмической видимостью

• Патентная защита стала условиями обслуживания

• Финансовый черный список стал демонетизацией

• Его определение «авторизованного» контента стало «стандартами сообщества».

Патентная монополия Эдисона позволила ему диктовать, какие фильмы могут быть показаны и где - так же, как современные технологические платформы используют Условия обслуживания, права ИС и алгоритмическую видимость, чтобы определить, какой контент достигает аудитории. Там, где Эдисон может просто запретить кинотеатрам доступ к фильмам, современные платформы могут спокойно уменьшить видимость с помощью «теневого запрета» или демонетизации.

Эта эволюция от ручного управления к алгоритмическому отражает столетие уточнения. Там, где Кодекс Хейса явно запрещал контент, системы ИИ теперь тонко лишают его приоритета. Там, где операция Mockingbird требовала редакторов-людей, алгоритмы рекомендаций теперь автоматически формируют поток информации. Механизмы не исчезли, они стали невидимыми, автоматизированными и гораздо более эффективными.

Пандемия COVID-19 продемонстрировала, насколько тщательно и быстро современные системы контроля могут выработать консенсус и обеспечить соблюдение. В течение нескольких недель установленные научные принципы о естественном иммунитете, внешней передаче и целенаправленной защите были заменены новой ортодоксией. Алгоритмы социальных сетей были запрограммированы на усиление контента, основанного на страхе, при подавлении альтернативных точек зрения, в то время как новостные агентства координировали обмен сообщениями для поддержания контроля над повествованием, а финансовое давление обеспечивало соблюдение институциональных норм. Подобно тому, как ранний захват Рокфеллером медицинских учреждений сформировал границы приемлемых знаний столетие назад, ответ на пандемию продемонстрировал, насколько тщательно эта система может активизироваться в кризис. Те же самые механизмы, которые когда-то определяли «научную» и «альтернативную» медицину, теперь определили, какие подходы к общественному здравоохранению можно обсуждать, а какие систематически подавлять.

Ученые Великой Баррингтонской декларации оказались стертыми не только из-за типичной цензуры, но и из-за невидимой руки алгоритмического подавления — их взгляды были похоронены в результатах поиска, их дискуссии были помечены как дезинформация, их профессиональная репутация была поставлена под сомнение скоординированными кампаниями в СМИ. Эта тройка подавления сделала несогласные перспективы фактически невидимыми, демонстрируя, как современные платформы могут слиться с государственной властью, чтобы стереть оппозицию, сохраняя при этом иллюзию независимого надзора. Большинство пользователей никогда не осознают, чего они не видят — самая эффективная цензура невидима для своих целей.

Приобретение Илоном Маском Twitter дало трещину света, обнажив ранее скрытые практики, такие как запрет теней и алгоритмическое подавление контента через выпуск файлов Twitter. Эти откровения продемонстрировали, насколько тщательно платформы интегрировали влияние правительства в свою политику умеренности - будь то путем прямого давления или добровольного соблюдения - стирая инакомыслие под видом поддержания стандартов сообщества. Тем не менее, даже Маск признал пределы свободы выражения в этих рамках, заявив, что «свобода слова не означает свободу досягаемости». Это признание подчеркивает непреходящую реальность: даже под новым руководством платформы остаются связанными алгоритмами и стимулами, которые формируют видимость, влияние и экономическую жизнеспособность.

Возможно, окончательным выражением этой эволюции является предлагаемое введение цифровых валют Центрального банка (ЦБДК), которые преобразуют механизмы социального контроля в финансовую инфраструктуру. Слияние показателей ESG с цифровой валютой создает беспрецедентный гранулированный контроль - каждая покупка, каждая транзакция, каждый экономический выбор становится предметом автоматического подсчета социального соответствия. Это слияние финансового надзора с поведенческим контролем представляет собой окончательное выражение систем контроля, которые начались с физических монополий Эдисона. Внедряя надзор в саму валюту, правительства и корпорации получают возможность контролировать, ограничивать и манипулировать транзакциями на основе соблюдения официальных критериев - от пределов использования углерода до показателей разнообразия до оценок социальных кредитов. Эти системы могут сделать инакомыслие не только наказуемым, но и экономически невозможным, ограничив доступ к основным предметам первой необходимости, таким как еда, жилье и транспорт, для тех, кто не соблюдает утвержденное поведение.

То, что началось с тщательного изучения Тавистоком массовой психологии, проверенного грубыми эмоциональными экспериментами Facebook и усовершенствованного с помощью современных алгоритмических систем, представляет собой более чем столетие развивающегося социального контроля. Каждый этап построен на последнем: от физических монополий до психологических манипуляций и цифровой автоматизации. Современные платформы социальных сетей не просто изучают человеческое поведение — они формируют его алгоритмически, автоматизируя массовые психологические манипуляции с помощью миллиардов ежедневных взаимодействий.

Отключение от матрицы: путь назад к реальности

Понимание этих систем — первый шаг к освобождению. По мере того, как механизм управления достигает своего пика, появляется возможность сопротивления. Конечная игра для централизованной власти представляет собой парадокс: те же системы, предназначенные для ограничения свободы, также выявляют свои собственные уязвимости.

Хотя эволюция от физических монополий Эдисона до сегодняшних невидимых алгоритмических средств управления может показаться ошеломляющей, она раскрывает важную истину: эти механизмы построены, а то, что построено, можно демонтировать или обойти.

Мы уже видим проблески сопротивления. Как я заметил в своем исследовании происхождения Big Tech, люди все чаще требуют прозрачности и подлинности - и как только они видят эти системы управления, они не видят их. Общественная реакция против очевидного идеологического скульптора — от корпоративных кампаний по распространению добродетелей до цензуры платформ — предполагает пробуждение к этим методам контроля. Общественное неприятие корпоративных новостных сетей в пользу независимой журналистики, массовый исход от манипулятивных платформ социальных сетей к децентрализованным альтернативам и растущее движение к созданию местного сообщества — все это демонстрирует, как осведомленность приводит к действиям. Рост числа платформ, приверженных свободе слова, даже в рамках централизованных систем, показывает, что альтернативы алгоритмическим манипуляциям возможны. Поддерживая прозрачность, уменьшая зависимость от автоматической модерации контента и поддерживая открытый обмен идеями, эти платформы бросают вызов статус-кво и выступают против доминирования централизованных нарративов. Основываясь на этих принципах, по-настоящему децентрализованные сети представляют собой нашу лучшую надежду на сопротивление: полностью устраняя привратников, они предлагают наибольший потенциал для противодействия иерархическому контролю и расширения возможностей подлинного выражения.

Битва за свободу сознания — теперь наша самая фундаментальная борьба. Без этого мы не автономные актеры, а неигровые персонажи (NPC) в чужой игре, делая, казалось бы, свободный выбор в тщательно сконструированных параметрах. Каждый раз, когда мы подвергаем сомнению алгоритмическую рекомендацию или ищем независимые голоса, мы взламываем матрицу управления. Когда мы создаем локальные сообщества и поддерживаем децентрализованные платформы, мы создаем пространство за пределами алгоритмических манипуляций. Это не просто акты сопротивления — это шаги к восстановлению нашей автономии как сознательных человеческих акторов, а не запрограммированных NPC.

Выбор между подлинным сознанием и запрограммированным поведением требует ежедневной проницательности. Мы можем пассивно потреблять курируемый контент или активно искать различные точки зрения. Мы можем принимать алгоритмические предложения или сознательно выбирать источники информации. Мы можем изолировать себя в цифровых пузырях или создать реальные сообщества сопротивления.

Наше освобождение начинается с признания: эти системы контроля, хотя и мощные, не являются неизбежными. Они были построены, и их можно демонтировать. Охватывая творчество, укрепляя подлинную связь и восстанавливая наш суверенитет, мы не просто сопротивляемся матрице контроля — мы возвращаем наше фундаментальное право создавать свою собственную судьбу. Будущее принадлежит тем, кто достаточно осведомлен, чтобы увидеть систему, достаточно храбр, чтобы отвергнуть ее, и достаточно творчески, чтобы построить что-то лучшее.