ИИ используется для борьбы с киберпреступностью «беспрецедентными» способами, предупреждают исследователи

Автор Tom Ozimek via Эпохальные времена,

Искусственный интеллект (ИИ) используется для совершения все более изощренных киберпреступлений, согласно новому отчету Anthropic предупреждает о «беспрецедентной» эволюции вредоносных операций, которая значительно усложняет защиту.

В своем отчете Threat Intelligence Report от 27 августа компания по безопасности ИИ описала, как преступники являются преступниками. Встраивание передовых моделей, таких как «Клод», в каждый этап атак — от разведки и кражи учетных данных до вымогателей и мошенничества. Исследователи заявили, что инструменты ИИ теперь действуют не только как консультанты, но и как активные операторы в кампаниях в режиме реального времени.

Это представляет собой фундаментальный сдвиг в том, как киберпреступники могут масштабировать свои операции.

«Агентные системы ИИ используются в качестве оружия» для проведения сложных кибератак, а не просто для предоставления рекомендаций, предупреждают исследователи.

Случаи в точке

В докладе были освещены несколько примеров, в том числе крупномасштабная кампания вымогательства, мошеннические мошенничества на рынке труда, проводимые Северной Кореей, и вымогатели, продаваемые на форумах в темной сети.

Например, в одной операции хакер использовал помощника Anthropic по кодированию Клода Кода для проникновения по меньшей мере в 17 организаций, включая больницы, экстренные службы и правительственные учреждения. «Клод» был развернут для автоматизации разведки, проникновения в сети, анализа украденных финансовых данных и создания убедительных, психологически целенаправленных заметок о выкупе. Спросы иногда превышали 500 тысяч долларов.

Вместо шифрования файлов злоумышленник пригрозил публично разоблачить похищенные данные, начиная от медицинских записей и заканчивая правительственными учетными данными. В докладе говорится, что этот метод «взлома веб-сайтов» показывает, как один оператор может теперь достичь влияния целой команды киберпреступников.

Он говорит: «Вот сколько, по нашему мнению, мы должны отправить записку о выкупе», а затем он на самом деле помогает написать записку о выкупе, чтобы быть максимально убедительным. Один из исследователей сказал во время подкаста, обсуждающего операцию. «Так что на самом деле, каждый шаг, сквозной, ИИ может помочь с такой атакой, в том числе анализ финансовых данных людей, чтобы выяснить, насколько их можно реально вымогать». "

Другой случай касался северокорейских оперативников, которые использовали Клода, чтобы выдать себя за программистов в компаниях из списка Fortune 500 в США. Сгенерированные ИИ резюме, оценки кодирования и даже технические задачи позволяют неквалифицированным работникам работать удаленно и получать зарплату, которая, по словам следователей, помогает финансировать северокорейский режим и его программы вооружений.

В третьем случае британский актер использовал Клода для создания и продажи программ-вымогателей, продавая пакеты вредоносных программ за 400-1200 долларов. Несмотря на отсутствие продвинутых возможностей кодирования, актер использовал ИИ для реализации шифрования, методов анти-детектирования и инфраструктуры командования и управления.

Растущая угроза

Антропик сказал, что эти примеры иллюстрируют более широкую картину, когда преступники с небольшой подготовкой теперь могут использовать ИИ для масштабирования атак, когда-то предназначенных для сложных групп. «Традиционные предположения о связи между мастерством актера и сложностью атаки больше не работают, когда ИИ может предоставить мгновенный опыт», — говорится в докладе.

Компания заявила, что запретила учетные записи, связанные с нарушениями, развернула новые инструменты обнаружения и поделилась техническими показателями с властями. В то же время он признал, что подобное злоупотребление происходит и с другими коммерческими моделями с открытым исходным кодом.

«В настоящее время существуют модели с открытым исходным кодом, которые точно настроены для этого». Антропный исследователь предупредил во время подкаста о новом явлении. «Киберпреступники разрабатывают вооруженные ЛУМ [большие языковые модели] для проведения нападений. "

Последствия того, что исследователи назвали «эволюцией в киберпреступности с помощью ИИ», заключаются в том, что защита и правоприменение становятся все более трудными, в то время как преступления, совершаемые с помощью вооруженного ИИ, становятся все более распространенными.

Национальная безопасность

Anthropic также объявила о создании Консультативного совета по национальной безопасности и государственному сектору, в состав которого войдут бывшие сенаторы и высокопоставленные чиновники из Пентагона и разведывательного сообщества, для руководства компанией по высокоэффективным оборонным приложениям ИИ.

Этот шаг происходит по мере того, как Вашингтон концентрируется на автономных системах. Президент Дональд Трамп 25 августа заявил, что беспилотные летательные аппараты представляют собой «самую большую вещь, которая произошла с точки зрения войны» со времен Второй мировой войны, сославшись на Украину как на доказательство того, что беспилотные платформы меняют современный бой.

Некоторые аналитики и инсайдеры, в том числе соучредитель автономной беспилотной компании Airrow Дэвид Кей, говорят: Соединение беспилотных летательных аппаратов с ИИ может ускорить переход к полям сражений «боты перед ботинками», где беспилотные летательные аппараты с ИИ работают без людей поблизости и выполняют круглосуточные миссии «без риска, без усталости и без колебаний». "

Между тем, Джеффри Хинтон - лауреат Нобелевской премии ученый, известный как «Крестный отец ИИ» выпустил суровые предупреждения о том, что человечество рискует быть смещенным машинами «гораздо умнее нас».

В недавнем интервью Хинтон сказал, что опасность ИИ выходит далеко за рамки потери рабочих мест, предупреждая, что если интеллектуальные машины не запрограммированы заботиться о людях, они «просто возьмут на себя» и заменят нас.