Тайный хакер использовал ИИ для автоматизации «беспрецедентных» киберпреступлений

Хакер якобы использовал Anthropic, быстрорастущий стартап ИИ, стоящий за популярным чат-ботом Клода, чтобы организовать то, что власти называют «беспрецедентной» кампанией по борьбе с киберпреступностью, нацеленной почти на 20 компаний. Об этом говорится в докладе, опубликованном на этой неделе.

В отчете, опубликованном Anthropic и полученном NBC News, подробно описывается, как Хакер манипулировал Клод определил компании, уязвимые для кибератак. Затем Клод сгенерировал вредоносный код для кражи конфиденциальных данных и каталогизированной информации, которая может быть использована для вымогательства.Даже составление угрожающих сообщений, отправленных целевым фирмам.

NBC Новости сообщают:

Украденные данные включали номера социального страхования, банковские реквизиты и конфиденциальную медицинскую информацию пациентов.. Хакер также взял файлы, связанные с конфиденциальной оборонной информацией, регулируемой Государственным департаментом США, известной как Международные правила торговли оружием.

Неясно, сколько компаний заплатили или сколько денег заработал хакер, но требования о вымогательстве варьировались от 75 000 до более 500 000 долларов.

Джейкоб Кляйн, глава разведки угроз для Anthropic, сказал Кампания, похоже, была работой хакера, работающего за пределами США.Но никаких дополнительных подробностей о виновнике не предоставил.

"У нас есть надежные гарантии и несколько уровней защиты для обнаружения такого рода злоупотреблений, но решительные субъекты иногда пытаются уклониться от наших систем с помощью сложных методов.- сказал Кляйн.

Выводы Anthropic приходят, поскольку все большее число злоумышленников используют ИИ для создания мошенничества, которое является более убедительным, масштабируемым и неуловимым, чем когда-либо. Отчет SoSafe Cybercrime Trends показывает, что 87% глобальных организаций столкнулись с кибератакой, основанной на ИИ, за последний год.

"ИИ резко расширяет изощренность и персонализацию кибератак.— сказал Эндрю Роуз, директор по безопасности в SoSafe. «Хотя организации, как представляется, осведомлены об угрозе, наши данные показывают, что предприятия не уверены в своей способности обнаруживать и реагировать на эти атаки. "

Искусственный интеллект является не только инструментом для киберпреступников, но и расширяет уязвимости в организациях. Поскольку компании спешат внедрить инструменты, основанные на ИИ, они могут непреднамеренно подвергать себя новым рискам.

"Даже доброжелательный ИИ, который организации используют в своих интересах, может быть использован злоумышленниками для поиска ценной информации, ключевых активов или обхода других средств контроля.«Роуз продолжала.

«Многие фирмы создают ИИ-чат-ботов, чтобы предоставить своим сотрудникам помощь, но немногие продумали сценарий того, как их чат-бот станет соучастником атаки, помогая злоумышленнику собирать конфиденциальные данные, идентифицировать ключевых лиц и собирать полезные корпоративные идеи», — добавил он.