Штучний інтелект змінює ландшафт кіберзлочинності: від хобі хакерів до структурованої індустрії

Кіберзлочинність зазнала фундаментальної трансформації. Те, що раніше вимагало високої технічної майстерності та ручної роботи, тепер може виконуватися за допомогою штучного інтелекту, що робить атаки швидшими, дешевшими і набагато важчими для виявлення. Кіберзлочинці використовують AI для створення шахрайських схем, які цілиться у відкладені пенсійні заощадження та корпоративну таємницю з приголомшливою точністю.

Останні дані Браяна Сінгера, доктора філософії з Карнегі-Меллон, який досліджує використання великих мовних моделей у кіберзлочинах, показують, що від 50 до 75 відсотків спаму та фішингових повідомлень у світі тепер походять із систем AI. Ці цифри відображають фундаментальні зміни у способах функціонування кіберзлочинності.

Штучний інтелект створює дуже переконливий досвід шахрайства

Те саме технології, які використовуються цифровими платформами для персоналізації реклами, тепер застосовують злочинці для збору особистих даних і здійснення персоналізованих шахрайств. Системи AI, навчені на даних корпоративної комунікації, можуть генерувати тисячі повідомлень, що звучать природно і відповідають стилю цільової організації. Вони імітують стиль написання керівників, згадують актуальні новини з публічних джерел і усувають мовні помилки, які раніше могли викрити спробу шахрайства міжнародними зловмисниками.

Аліса Марвік, яка керує дослідженнями у Data & Society, незалежній організації досліджень у галузі технологій, пояснює найважливіші зміни: «Реальні зміни — у масштабі та обсязі. Шахрайство стало більшим, більш цілеспрямованим і переконливим.»

Злочинці також використовують технології deepfake для створення фальшивих відео та аудіо зображень керівників компаній. Вони використовують однакові фальшиві особистості для цілеспрямованих атак на багато людей одночасно, створюючи те, що Джон Хульквіст, керівник аналітичної групи Threat Intelligence Group Google, називає «кредитною довірою у масштабі».

Кіберзлочинність перетворюється у структурований бізнес-модель

Найбільший фактор, що сприяє цим змінам, — зниження бар’єрів входу у світ кіберзлочинності. Тіньовий ринок тепер продає або орендує інструменти AI для кіберзлочинів за ціною від $90 на місяць. Ці сервіси мають назви, такі як WormGPT, FraudGPT і DarkGPT, і пропонують різні рівні цін і професійну підтримку.

Ніколас Крістін, керівник відділу програмного забезпечення та інфраструктури в Карнегі-Меллон, детально описує цю екосистему: «Розробники продають підписки на платформи атак за різними рівнями цін і з підтримкою клієнтів.» Деякі сервіси навіть включають навчальні матеріали з технік хакінгу.

Маграт Кунінгем, віце-президент з безпеки та стратегій AI у Darktrace, компанії з кібербезпеки, зазначає, що бар’єри стали дуже низькими: «Вам не потрібно знати, як кодувати, потрібно лише знати, де знайти ці інструменти.» Новий тренд, званий «vibe-coding», дозволяє потенційним злочинцям використовувати AI для створення власних шкідливих програм без необхідності купувати їх у підпільних джерелах.

Кіберзлочинна діяльність сама по собі вже давно функціонує за моделлю бізнесу. Типові ransomware-атаки включають спеціалізовані ролі: брокери доступу, які зламують мережі компаній і продають доступ, команди проникнення, що рухаються системою і крадуть дані, та постачальники ransomware, які поширюють шкідливе програмне забезпечення, ведуть переговори і ділять прибутки.

Штучний інтелект підвищує ефективність і прибутковість злочинних операцій

Штучний інтелект підвищив швидкість, масштаб і доступність цих систем. Роботи, що раніше вимагали глибоких технічних знань, тепер можуть виконуватися автоматично. Це дозволяє групам діяти з меншим числом співробітників, з меншими ризиками і більшою прибутковістю.

Крістін порівнює цю ситуацію з наступною фазою індустріалізації: «Уявіть собі наступний етап індустріалізації. AI підвищує продуктивність без необхідності залучення більшої кількості кваліфікованих працівників.» Кіберзлочинці також стають все більш майстерними у виборі цілей. Вони використовують AI для аналізу соціальних мереж і виявлення осіб, що переживають серйозні труднощі — розлучення, смерть близьких, втрату роботи — ситуації, які роблять їх більш вразливими до романтичних шахрайств, фальшивих інвестиційних схем або підроблених пропозицій роботи.

Чи може AI повністю самостійно здійснювати атаки?

З’являється критичне питання: чи може AI запускати кіберзлочини повністю без участі людини? Відповідь наразі — ні. Експерти порівнюють цю ситуацію з розвитком повністю автономних транспортних засобів. Останні 5 відсотків — частина, що дозволяє автомобілю їхати самостійно куди завгодно і коли завгодно — ще не досягнута.

Однак дослідники тестують можливості хакінгу AI у лабораторних умовах. Команда з Карнегі-Меллон за підтримки Anthropic змогла імітувати відомий витік даних Equifax за допомогою AI на початку цього року. Це вважається «великим проривом» серед експертів.

Захист від кіберзлочинності, посилений AI

З іншого боку, компанії, що займаються AI, прагнуть використовувати ті ж технології для посилення цифрового захисту. Anthropic і OpenAI розробляють системи AI, здатні постійно перевіряти код програмного забезпечення на вразливості, які можуть бути використані злочинцями. Люди все ще мають схвалювати будь-які виправлення.

Нові програми AI, розроблені дослідниками Стенфордського університету, демонструють кращу продуктивність, ніж деякі людські тестувальники, у виявленні проблем безпеки у мережах. Хоча AI не зможе запобігти всім порушенням, організації мають зосередитися на побудові надійних мереж, які залишатимуться функціональними під час кібернападів.

Ця еволюція кіберзлочинності показує, що боротьба між зловмисниками, що використовують AI, і цифровим захистом ще тільки починається. Усвідомлення і підготовка залишаються найсильнішою лінією оборони.