Злочинець використав AI-модель для викрадення медичних даних, фінансової інформації та державних облікових даних, погрожуючи оприлюднити ці дані, якщо йому не заплатять понад $500,000.

Anthropic повідомляє, що кіберзлочинець використав її модель штучного інтелекту (AI) для викрадення конфіденційної особистої інформації та вимагання значних викупів за її нерозголошення.

Члени команди з аналізу загроз Anthropic Алекс Мойкс, Кен Лебедєв та Джейкоб Кляйн у новому звіті заявляють, що кіберзлочинець неправомірно використав чат-бот Claude цієї AI-компанії для сприяння крадіжці даних та вимогам викупу.

“Нещодавно ми зірвали діяльність витонченого кіберзлочинця, який використовував Claude Code для масштабної крадіжки та шантажу особистих даних. Зловмисник націлився щонайменше на 17 різних організацій…

Зловмисник використовував AI у, як ми вважаємо, безпрецедентному масштабі. Claude Code застосовувався для автоматизації розвідки, збору облікових даних жертв і проникнення в мережі. Claude дозволяли приймати як тактичні, так і стратегічні рішення, наприклад, визначати, які дані ексфільтрувати, і як формулювати психологічно орієнтовані вимоги щодо викупу. Claude аналізував ексфільтровані фінансові дані для визначення відповідних сум викупу та генерував візуально тривожні записки з вимогами, які відображалися на пристроях жертв.”

Anthropic повідомляє, що кіберзлочинець організував “систематичну кампанію атак, спрямовану на комплексну крадіжку даних і шантаж” із використанням моделі AI.

“Зловмисник надав Claude Code свої улюблені оперативні TTPs (тактики, техніки та процедури) у своєму файлі CLAUDE.md, який використовується як інструкція для Claude Code, щоб реагувати на запити у спосіб, бажаний користувачем…

Системний підхід зловмисника призвів до компрометації особистих записів, включаючи медичні дані, фінансову інформацію, державні облікові дані та іншу конфіденційну інформацію, причому прямі вимоги викупу іноді перевищували $500,000.”

Компанія також зазначає, що використання її AI-моделей у незаконних цілях відбувається, незважаючи на її зусилля щодо їхнього обмеження.

“Ми розробили складні заходи безпеки та захисту, щоб запобігти зловживанню нашими AI-моделями. Хоча ці заходи загалом ефективні, кіберзлочинці та інші зловмисники постійно намагаються знайти способи їх обійти.”

Generated Image: Midjourney