Втрата контролю над AI-агентами призведе до "цифрової великої пожежі"… Яке рішення пропонує Rubric?

З введенням штучного інтелекту (AI) підприємства створюють автономне робоче середовище, контрольні повноваження та управління безпекою AI-агентів стають ключовими питаннями цифрових операцій. Особливо розвинуті AI-агенти можуть виконувати завдання або приймати бізнес-рішення від імені користувача, і якщо безпека буде зламано, це може призвести до найгіршого сценарію, коли вся організаційна система буде під контролем.

Співзасновник та генеральний директор Rubrik ( CEO ) Біупал Сінха ( Bipul Sinha ) нещодавно в інтерв'ю підкреслив: “У часи, коли агенти обробляють бізнес з надшвидкістю, за короткий час може бути завдано десятикратних збитків”, він зазначив, що традиційні системи безпеки не можуть контролювати “управління агентами”, яке виникає як новий засіб контролю. Він пояснив: “AI-агенти ведуть бізнес-процеси так, як це роблять люди, іноді навіть імітуючи ідентичність користувача, тому мають властивості 'суперлюдини'.”

Щоб посилити безпеку агентів, Rubrik запустила нову платформу під назвою ‘Rubrik Agent Cloud’. Ця система може аналізувати типи та обсяги діяльності AI-агентів в організації, виявляти загрози на основі заздалегідь встановлених захисних бар'єрів та надавати функцію швидкого відкликання агента в разі необхідності. Генеральний директор Сінга зазначив: “Усі AI-агенти повинні розглядатися як нові співробітники, їх потрібно забезпечити посібником з поведінки, системою моніторингу та процедурами призупинення у разі виникнення проблем.”

Але справжня проблема управління агентами полягає в швидкості масштабного розповсюдження. Якщо дозволити агентам безладно розповсюджуватися в умовах недостатньої видимості та контролю, це може призвести до того, що невеликі збої перетворяться на “цифрову велику пожежу”, яка паралізує всю систему. У зв'язку з цим, CEO Сінха пропонує організаціям не розробляти занадто великі плани автоматизації, а обмежити їх 3-4 основними робочими потоками, завершивши пілотне впровадження, а потім поступово розширювати обсяг.

Сін Ха також попередив: «Операційне середовище повинно використовувати точний ШІ, якщо немає здатності управляти витратами, вартість розуміння вийде з-під контролю та різко зросте». Це означає, що стабільність витрат як реальний фактор не можна ігнорувати в стратегії розповсюдження ШІ-агентів.

У час, коли технології ШІ глибоко інтегруються в загальну структуру підприємства, стратегія “управління через агентів”, запропонована Rubrik, вже перевершила прості заходи безпеки і стає центральною контрольної вежою для конкретизації загальної цифрової стійкості та сталості організації.