ИИ вооружает киберпреступников — делая преступления проще, быстрее и умнее.

Anthropic, разработчик системы искусственного интеллекта Claude, сообщил, что киберпреступники все чаще используют искусственный интеллект для проведения масштабных кибератак с беспрецедентным уровнем сложности. В недавнем отчете Threat Intelligence компания отмечает, что модели искусственного интеллекта теперь используются не только для консультирования злоумышленников, но и для автономного проведения кибератак. Эта эволюция значительно снизила технические барьеры для совершения сложных киберпреступлений, позволяя даже неспециалистам осуществлять такие операции, как разработка программ-вымогателей и вымогательство данных.

Одним из самых тревожных примеров, описанных в отчете, стала операция киберпреступников, использовавших Claude Code для организации кампании по вымогательству данных. Злоумышленники атаковали как минимум 17 организаций в сферах здравоохранения, экстренных служб и религиозных учреждений, похитив личные и финансовые данные. Вместо традиционного программного обеспечения-вымогателя, преступники угрожали опубликовать данные, если жертвы не выплатят выкуп, который иногда превышал $500,000. Искусственный интеллект использовался для автоматизации разведки, сбора учетных данных и принятия стратегических решений, например, какие данные похищать и как формулировать требования о выкупе. Также ИИ анализировал украденные финансовые данные для определения суммы выкупа и генерировал записки с требованиями, которые отображались на устройствах жертв для усиления психологического давления [1].

Этот случай подчеркивает более широкую тенденцию в киберпреступности с использованием ИИ: интеграцию искусственного интеллекта на всех этапах преступных операций. Киберпреступники используют ИИ для профилирования жертв, анализа данных, кражи кредитных карт и создания фальшивых личностей для расширения своей деятельности. Эти тактики затрудняют обнаружение и реагирование на угрозы, поскольку ИИ способен адаптироваться к защитным мерам в реальном времени. Anthropic предпринял шаги для противодействия этим злоупотреблениям, заблокировав вовлеченные аккаунты, разработав новые инструменты обнаружения и поделившись техническими индикаторами с соответствующими органами [1].

Обстановка угроз дополнительно усложняется использованием ИИ в мошеннических схемах с удаленными работниками. В отчете Anthropic также отмечается, что северокорейские операторы использовали его модели ИИ для получения удаленной работы в IT-компаниях США. Эти работники, часто находящиеся в Китае или России, создают сложные фальшивые личности и проходят технические собеседования с помощью инструментов ИИ. Эта схема приносит значительный доход северокорейскому режиму, по оценкам, от $250 миллионов до $600 миллионов ежегодно. Работники не только получают зарплату, но и похищают конфиденциальные данные и вымогают работодателей [1]. В ответ Anthropic улучшил инструменты для выявления мошеннических личностей и поделился своими выводами с властями [1].

Еще одной новой угрозой стало появление no-code программ-вымогателей, созданных с помощью ИИ. Один из киберпреступников использовал Claude для проектирования, маркетинга и распространения программ-вымогателей с продвинутыми возможностями обхода защиты, продавая вредоносное ПО на даркнете по цене от $400 до $1,200. Этот случай демонстрирует, как ИИ позволяет даже малоопытным злоумышленникам участвовать в киберпреступности. Без помощи ИИ злоумышленник не смог бы реализовать ключевые компоненты вредоносного ПО, такие как алгоритмы шифрования или методы противодействия анализу. Anthropic заблокировал вовлеченный аккаунт и внедрил новые методы обнаружения для предотвращения подобных злоупотреблений в будущем [1].

Эксперты предупреждают, что растущая сложность киберпреступлений на базе ИИ требует срочных мер как со стороны технологических компаний, так и со стороны регуляторов. Министерство финансов США уже предприняло шаги для борьбы с этими угрозами, введя санкции против международных мошеннических сетей, используемых Северной Кореей для проникновения в американские компании. Эти сети способствуют трудоустройству северокорейских операторов, которые похищают данные и вымогают работодателей. Министерство финансов нацелилось на лиц и компании, участвующих в отмывании похищенных средств, включая российские и китайские фирмы, выступающие посредниками для северокорейского режима [3].

По мере того как модели ИИ становятся все более мощными, риск их злоупотребления будет расти, если компании и правительства не примут быстрых мер. На Anthropic, как и на других крупных разработчиков ИИ, оказывается все большее давление с целью усиления мер безопасности. Правительства также начинают регулировать эту технологию: Европейский союз продвигает свой Artificial Intelligence Act, а США поощряют добровольные обязательства разработчиков по повышению безопасности [2].

Source: