Искусственный интеллект меняет ландшафт киберпреступности: от хобби хакеров до структурированной индустрии

Киберпреступность претерпела фундаментальные изменения. То, что раньше требовало высокой технической квалификации и ручных операций, теперь может выполняться с помощью искусственного интеллекта, делая атаки быстрее, дешевле и значительно сложнее для обнаружения. Киберпреступники используют ИИ для создания мошеннических схем, нацеленных на все — от пенсионных сбережений до корпоративных секретов — с поразительной точностью.

Последние данные Брайана Сингера, доктора философии из Карнеги-Меллон, изучающего использование больших языковых моделей в кибератаках, показывают, что от 50 до 75 процентов спама и фишинговых сообщений по всему миру теперь исходят из систем ИИ. Эти цифры отражают кардинальные изменения в способах функционирования киберпреступности.

Искусственный интеллект создает очень убедительный опыт мошенничества

Те же технологии, которые используют цифровые платформы для настройки рекламы, теперь применяются преступниками для сбора личных данных и проведения персонализированных мошенничеств. Системы ИИ, обученные на данных корпоративных коммуникаций, могут генерировать тысячи сообщений, звучащих естественно и соответствующих стилю целевой организации. Они имитируют стиль написания руководителей, упоминают свежие новости из публичных источников и устраняют языковые ошибки, ранее выдававшие мошеннические попытки международных злоумышленников.

Алиса Марвик, руководитель исследований в Data & Society — независимой организации по исследованию технологий, — объясняет наиболее значимые изменения: «Реальные изменения — это масштаб и охват. Мошенничество стало больше, более целенаправленным и более убедительным.»

Преступники также используют технологии deepfake для создания поддельных видео и аудио руководителей компаний. Они используют одни и те же ложные личности для нацеливания на множество людей одновременно, создавая то, что Джон Хулткист, руководитель аналитического отдела Threat Intelligence Group Google, называет «кредитоспособностью в большом масштабе».

Киберпреступность развивается в структурированный бизнес-модель

Крупнейшая среда, способствующая этим изменениям, — снижение барьеров входа в мир киберпреступности. Теневая онлайн-рынок теперь продает или сдает в аренду инструменты ИИ для киберпреступлений по цене всего $90 в месяц. Эти услуги имеют названия WormGPT, FraudGPT и DarkGPT и предлагаются по разным ценовым уровням с профессиональной поддержкой.

Николя Кристен, руководитель отдела программного обеспечения и инфраструктуры в Карнеги-Меллон, подробно описывает эту экосистему: «Разработчики продают подписки на платформы атак с ценами по уровням и поддержкой клиентов.» Некоторые из этих сервисов даже включают обучающие материалы по техникам взлома.

Маггрет Куннингем, заместитель президента по безопасности и стратегии ИИ в Darktrace — компании по кибербезопасности, — отмечает, что барьеры стали очень низкими: «Вам не нужно знать, как программировать, достаточно знать, где найти эти инструменты.» Новая тенденция, называемая «vibe-coding», позволяет потенциальным преступникам использовать ИИ для создания своих вредоносных программ без необходимости покупать их у подпольных источников.

Самая деятельность киберпреступности уже давно работает по бизнес-модели. Типичная ransomware-атака включает в себя специализированные роли: брокеры доступа, взламывающие корпоративные сети и продающие доступ, команды проникновения, которые перемещаются по системам, крадут данные, и поставщики ransomware, которые распространяют вредоносное ПО, ведут переговоры и делят прибыль.

ИИ повышает эффективность и прибыльность преступных операций

Искусственный интеллект повысил скорость, масштаб и доступность этих систем. Работа, ранее требовавшая глубоких технических знаний, теперь может выполняться автоматически. Это позволяет группам действовать с меньшим числом сотрудников, снижая риски и увеличивая прибыль.

Кристен сравнивает ситуацию: «Это следующий этап индустриализации. ИИ повышает производительность без необходимости в большем количестве квалифицированных специалистов.» Киберпреступники также становятся все более умелыми в выборе целей. Они используют ИИ для анализа социальных сетей и выявления лиц, сталкивающихся с серьезными жизненными трудностями — разводы, смерть близких, потеря работы — ситуации, делающие человека более уязвимым к мошенничеству, фальшивым инвестиционным схемам или поддельным предложениям работы.

Может ли ИИ полностью самостоятельно осуществлять атаки?

Возникает важный вопрос: сможет ли ИИ запускать кибератаки полностью без участия человека? На данный момент ответ — нет. Эксперты сравнивают ситуацию с развитием полностью автономных транспортных средств. Последние пять процентов — возможность, чтобы автомобиль мог ездить куда угодно, когда угодно, — еще не достигнуты.

Тем не менее, исследователи тестируют возможности взлома ИИ в лабораторных условиях. Команда из Карнеги-Меллон при поддержке Anthropic смогла в начале этого года воспроизвести знаменитое нарушение данных Equifax с помощью ИИ. Это считается «большим скачком вперед» по мнению экспертов.

Защита от киберпреступности, усиленная ИИ

С другой стороны, компании, занимающиеся ИИ, используют те же технологии для усиления цифровой защиты. Anthropic и OpenAI разрабатывают системы ИИ, которые могут постоянно проверять программный код на наличие уязвимостей, которые злоумышленники могут использовать. Человеческое одобрение все еще необходимо для внесения исправлений.

Новые программы ИИ, разработанные исследователями Стэнфорда, показывают лучшие результаты, чем некоторые тестировщики-человеки, в обнаружении проблем безопасности в сетях. Хотя ИИ не остановит все нарушения, организации должны сосредоточиться на создании устойчивых сетей, которые продолжат функционировать во время кибератак.

Эволюция киберпреступности показывает, что борьба между злоумышленниками, использующими ИИ для вредоносных целей, и защитой цифровых систем только начинается. Осведомленность и подготовка остаются самыми сильными линиями обороны.