Между Star Trek и дронами-камикадзе: от серийной утопии до реальных угроз

Будучи ребенком, выросшим в 1990-х годах в Польше, я с нетерпением ждал воскресного дня. Ограниченный доступ к СМИ превратил охоту за одной конкретной программой в недельный ритуал. В моем доме он смотрел "Звездный путь". Это научно-фантастический сериал о приключениях Звёздного флота (Объединённая федерация планет), который в несколько утопическом будущем человечества пересекает галактику, чтобы исследовать неизвестные и соединяться с новыми формами жизни. Приключения капитана Джейнвей, Пикарда и их экипажей были вырезаны в моей памяти, формируя мое отношение к науке и технике.

Мне казалось, что за свою жизнь я не увижу ни одной футуристической технологии «Энтерпрайза» или «Вояджера» (названия кораблей): репликаторов, то есть бортовых принтеров материи, которые могут создать чашку кофе или ключ от двигателя, или транспортеров, устройств, дематериализующих людей на квантовом уровне, которые передают полученный энергетический луч и рематериализуют людей в целевом месте.

Между тем, наиболее быстро реализованным элементом звездного видения будущего оказались автономные системы вооружения — Независимые системы вооружений (AWS).

От научной фантастики к реальности

Не существует единого определения этого оружия, но можно сделать вывод, что это общая категория оружия, которая использует различные степени автономии. Он работает в запрограммированных параметрах и может выполнять задачи, поддерживающие операторов, например, разведку или патрулирование. Он также используется для боевых задач - без постоянного контроля человека, он руководствуется алгоритмами, позволяющими принимать решения на основе анализа окружающей среды.

После активации эти системы основаны на программном обеспечении данных датчиков (например, камерах, радиолокационных сигналах, тепловых сигнатурах) для идентификации цели.

Когда система находит цель, стреляет или освобождает заряд, часто без одобрения или проверки оператором.

На практике это означает, что именно машина, а не человек, определяет, где, когда и с какой силой будет использоваться оружие.

Такие термины, как «боты-убийцы» и «роботы-убийцы», часто ассоциируются с научно-фантастическими фильмами, такими как «Терминатор», что создает ошибочное представление о том, что AWS принадлежит далекому будущему. Экспертная группа ООН по Ливии в 2021 году пришла к выводу, что AWS, такие как беспилотник STM Kargu-2 и другие беспилотные камикадзе с круговыми боеприпасами, были запрограммированы на атаку целей, не требуя передачи данных между оператором и оружием, в результате чего была достигнута истинная способность «пожара, забыть и найти», то есть «пожара, забыть и найти». Это означает, что система приняла собственное решение выбрать и поразить цели после первоначального запуска без дальнейшего вмешательства человека.

В 2025 году мы наблюдаем ускоренные темпы разработки и внедрения AWS, как в контексте использования боевых, так и перспективных разработок и утверждения на производство.

По сообщениям The Guardian, в начале июня 2025 года украинские солдаты запустили "Гоголь-М", летающую "дрону-маму". Устройство пролетело 200 км вглубь России и выпустило два небольших ударных беспилотника. Эти небольшие беспилотники автономно сканировали область в поисках подходящей цели, нацелились на нее, а затем влетели в нее, взорвав при ударе взрывчатку. Участие человека ограничивалось обучением дрона типу цели и общей области поиска. Стоимость этой миссии составляла 10 000 долларов, в то время как ранее она требовала ракетных систем стоимостью от 3 до 5 миллионов долларов.

Российская версия украинского беспилотника "Гоголь-М", V2U, запускается даже 50 раз в день для поражения целей вблизи линии фронта на Украине.

Как и его украинский оригинал, V2U способен входить в обозначенную зону, используя только визуальную навигацию, а затем обнаруживать, выбирать и атаковать объекты без связи с оператором. Также было замечено, что эти дроны работают в роях и нарушать их неэффективно.

В Силиконовой долине также происходит смена повествования. Спустя годы, когда работа над военными приложениями искусственного интеллекта была стигматизирована, инженерам ИИ теперь разрешено участвовать в военных проектах.

Растущие расходы на оборону и развитие технологий, упомянутые в европейской, а также польской оборонной стратегии, должны идти рука об руку со строгой правовой и этической основой для предотвращения эрозии прав человека, поддерживаемых ИИ. Тем более что речь идет не только об использовании AWS на поле боя. Как обычно бывает с такими системами, они имеют характер «двойного использования» — как в военном, так и пограничном контроле, поддержании общественного порядка или массовом надзоре.

Биометрия - особенно распознавание лиц - уже сегодня создает эффект замораживания: люди боятся участвовать в протестах, зная, что камеры могут их идентифицировать и власть ответит на них репрессиями.

Подобные системы работают в оккупированных районах, где беспилотники и постоянные контрольно-пропускные пункты отрезают целые сообщества от здравоохранения, работы или семейной жизни.

Разработка AWS требует огромных сборов данных, чаще всего собираемых без ведома и согласия граждан.

Данные из социальных сетей и мониторинга навсегда попадают в базы данных, и заинтересованные лица теряют возможность возражать. Такая практика нарушает не только право на неприкосновенность частной жизни, но и свободу слова, собраний и принцип недискриминации.

Видение «Звездного пути» с детства предполагало, что технологии защищают достоинство и свободу. Звездный флот строил не камеры для отслеживания граждан, а корабли для исследования новых миров.

Если мы хотим избежать антиутопического сценария, нам нужны четкие юридические и этические границы, прежде чем автономные системы вооружений и наблюдения станут нашей повседневной реальностью.