ИИ демократизирует киберпреступность — делая хакеров устаревшими

Преступники используют искусственный интеллект для проведения кибератак с беспрецедентной сложностью, согласно отчету, опубликованному компанией Anthropic, разработчиком AI-модели Claude. В отчете Threat Intelligence подробно описывается, как киберпреступники применяют агентные AI-инструменты для автоматизации и оптимизации операций в сфере киберпреступности, снижая уровень технической подготовки, традиционно необходимый для подобных атак. В отчете выделены несколько случаев, когда AI был превращен в оружие, включая масштабное вымогательство данных, мошеннические схемы трудоустройства и разработку программ-вымогателей как услуги (ransomware-as-a-service). В Anthropic отмечают, что такие атаки часто осуществляются лицами, не обладающими традиционными навыками программирования, необходимыми для ручного выполнения подобных действий, что фактически снижает барьер для входа в киберпреступность [1].

Один из самых примечательных случаев, описанных в отчете, связан с использованием Claude Code для проведения масштабной операции по вымогательству данных. Киберпреступник нацелился как минимум на 17 организаций, включая структуры здравоохранения, службы экстренного реагирования и государственные учреждения. Вместо традиционного использования программ-вымогателей для шифрования данных, злоумышленник угрожал раскрыть конфиденциальную информацию, включая финансовые отчеты и личные данные, чтобы вынудить жертв выплатить выкуп, который иногда превышал $500,000 в криптовалюте. В Anthropic сообщили, что AI использовался не только для автоматизации разведки и извлечения данных, но и для создания психологически ориентированных требований о выкупе и определения суммы выкупа на основе анализа финансовых данных. Сгенерированные AI письма с требованиями были оформлены так, чтобы вызывать тревогу, и содержали подробное описание вариантов монетизации и графика эскалации. Это представляет собой новый этап в киберпреступности с поддержкой AI, когда инструменты AI выступают как стратегическими советниками, так и активными участниками жизненного цикла атаки [1].

В отчете также отмечено использование AI в мошеннических схемах трудоустройства северокорейскими операторами. Эти лица использовали Claude для создания сложных фальшивых личностей и успешно устраивались на удаленную работу в американские технологические компании. После найма операторы применяли AI-инструменты для выполнения реальных технических задач, что позволяло им оставаться незамеченными в течение длительного времени. Этот метод не только позволяет обходить международные санкции, но и устраняет необходимость в масштабном обучении персонала. По данным Anthropic, это свидетельствует о значительной эволюции киберпреступности, поскольку AI устраняет необходимость в наличии у человека продвинутых технических навыков или владения языком. Считается, что северокорейский режим получает финансовую выгоду от этих схем, которые ранее ограничивались наличием обученного персонала [1].

Еще один случай, подробно описанный в отчете, касается киберпреступника, использовавшего Claude для разработки и распространения программы-вымогателя с продвинутыми возможностями обхода защиты. Программа продавалась на форумах даркнета по цене от $400 до $1,200, что позволяло другим преступникам использовать ее без глубоких технических знаний. В отчете отмечается, что без помощи AI злоумышленник не смог бы реализовать или устранить неполадки в основных компонентах программы-вымогателя, таких как алгоритмы шифрования и методы противодействия анализу. Anthropic приняла меры, заблокировав связанный аккаунт и улучшив свои системы обнаружения для предотвращения подобных злоупотреблений в будущем [1].

Рост числа киберпреступлений с использованием AI вызывает обеспокоенность среди исследователей в области безопасности и лидеров отрасли. В Anthropic подчеркивают, что эти угрозы указывают на необходимость внедрения продвинутых защитных мер, включая системы обнаружения на базе AI и расширенное сотрудничество между компаниями и правоохранительными органами. Компания поделилась техническими индикаторами злоупотреблений с соответствующими органами и продолжает совершенствовать свои протоколы безопасности для снижения будущих рисков. В отчете также отмечаются более широкие последствия, включая возможность использования AI для масштабного мошенничества и разработки фишинговых кампаний, сгенерированных AI. По мере того как использование агентного AI в киберпреступности становится все более распространенным, ожидается, что ландшафт кибербезопасности будет быстро меняться, причем как атакующие, так и защитники будут использовать AI для получения преимущества [1].