Военные преследуют системы ИИ для подавления онлайн-диссидентов за рубежом

Автор Хосе Ниньо через Headline USA,

Американские военные хотят, чтобы искусственный интеллект делал то, что не могут делать пропагандисты: создавал и распространял кампании влияния на скорости интернета, систематически подавляя голоса оппозиции за рубежом. Согласно внутренним документам Пентагона, полученным The Intercept.

Засекреченный список желаний раскрывает амбиции SOCOM Развернуть «агентические системы ИИ или мульти-LLM агентов», которые могут «влиять на зарубежную целевую аудиторию» и «подавлять несогласные аргументы» с минимальным человеческим контролем. Военная отрасль ищет подрядчиков, которые могут предоставить автоматизированные системы, которые работают в беспрецедентных масштабах и скорости.

«Информационная среда движется слишком быстро, чтобы военные помнили, чтобы адекватно взаимодействовать и влиять на аудиторию в Интернете», — говорится в документе.

«Наличие программы, созданной для поддержки наших целей, может позволить нам контролировать повествования и влиять на аудиторию в режиме реального времени. "

Как сообщает The Intercept, предлагаемые системы ИИ будут выходить далеко за рамки простой генерации контента. SOCOM предлагает технологию, которая может «разрушать информационную среду, анализировать ситуацию и отвечать сообщениями, которые соответствуют целям MISO». Более спорно то, что системы будут «подавлять несогласные аргументы» и «профили доступа, сети и системы отдельных лиц или групп, которые пытаются противостоять или дискредитировать наши сообщения». "

Пентагон планирует использовать эти возможности для всеобъемлющих социальных манипуляций, создавая «всеобъемлющие модели целых обществ, чтобы позволить планировщикам MISO использовать эти модели для экспериментов или тестирования различных сценариев. "

Системы будут генерировать целевые сообщения, предназначенные для «влияния на конкретного человека или группу» на основе собранного интеллекта.

Представитель SOCOM Дэн Лессард, как сообщается, защищал эту инициативу, заявив, что «все возможности с поддержкой ИИ разрабатываются и используются в рамках концепции ответственного ИИ Министерства обороны, которая обеспечивает подотчетность и прозрачность, требуя человеческого надзора и принятия решений. "

Действия Пентагона происходят по мере того, как противники внедряют аналогичные технологии. Китайская компания GoLaxy разработала системы ИИ, которые могут «изменять и влиять на общественное мнение от имени китайского правительства». Об этом сообщает The New York Times. Компания «провела кампании влияния в Гонконге и Тайване и собрала данные о членах Конгресса и других влиятельных американцах. "

Однако эксперты сомневаются, что пропаганда, созданная ИИ, окажется эффективной. Эмерсон Брукинг из Атлантического совета отметил, что «Россия использует программы ИИ для автоматизации своих операций влияния. Программа не очень хорошая». Он предупредил, что «ИИ, как правило, делает эти кампании глупее, а не эффективнее. "

Пентагон ранее проводил тайные операции влияния со смешанными результатами.

В 2022 году исследователи раскрыли сеть учетных записей в социальных сетях, управляемых Центральным командованием США, которые продвигали антироссийские и иранские сообщения, но не смогли набрать обороты, став тем, что Брукинг назвал «позором для Пентагона». "

Критики обеспокоены более широкими последствиями автоматизированных систем пропаганды. Хайди Хлааф, бывший инженер по безопасности OpenAI, предупредила, что «рассматривание использования генеративного и агентного ИИ как просто смягчение использования противниками является искажением этой технологии, поскольку наступательные и оборонительные применения на самом деле являются двумя сторонами одной медали. "