L'IA hors de contrôle provoquerait un 'grand incendie numérique'... Quelle est la solution proposée par Rubric ?

Avec l'introduction de l'intelligence artificielle (AI) par les entreprises pour construire un environnement de travail autonome, les droits de contrôle et la gestion de la sécurité des agents IA deviennent des sujets centraux de l'exploitation numérique. En particulier, les agents IA hautement développés peuvent remplacer l'identification de l'utilisateur pour exécuter des tâches ou prendre des décisions commerciales, et en cas de violation de la sécurité, cela pourrait entraîner le pire scénario où l'ensemble du système organisationnel serait contrôlé.

Le cofondateur et PDG de Rubrik, (, CEO ), Bipul Sinha, (, a récemment souligné dans une interview : « À une époque où les agents traitent les affaires à une vitesse surhumaine, il est possible de causer 10 fois plus de dommages en seulement 10 minutes. » Il a noté que la 'gouvernance des agents', difficile à contrôler avec les systèmes de sécurité traditionnels, émerge comme un nouveau moyen de contrôle. Il a expliqué : « Les agents IA gèrent des processus commerciaux comme des humains et imitent parfois l'identité des utilisateurs, possédant ainsi des attributs de 'super-humains'. »

Pour renforcer la sécurité des agents, Rubrik a lancé une nouvelle plateforme appelée ‘Rubrik Agent Cloud’. Ce système peut analyser les types et l'étendue des activités des agents IA au sein de l'organisation, détecter les comportements menaçants en fonction de barrières de protection prédéfinies et, si nécessaire, offrir la possibilité de retirer rapidement cet agent. Le PDG Sinha a expliqué : “Tous les agents IA doivent être traités comme de nouveaux employés, ils doivent être équipés d'un manuel de comportement, d'un système de surveillance et d'un protocole de suspension en cas de problème.”

Mais le véritable défi de la gouvernance des agents réside dans la vitesse de diffusion à grande échelle. Si les agents se diffusent de manière désordonnée sans visibilité et contrôle suffisants, cela pourrait transformer de petites pannes en un 'incendie numérique majeur' paralysant tout le système. À cet égard, le PDG Sinha conseille aux organisations de ne pas établir de plans d'automatisation trop vastes, mais de se limiter à 3-4 flux de travail principaux pour effectuer des essais pilotes avant d'élargir progressivement la portée.

Sinha a également averti : « L'environnement opérationnel doit utiliser une IA précise, si la capacité de gestion des coûts n'est pas présente, les coûts de raisonnement vont grimper de manière incontrôlable. » Cela signifie que la stabilité des coûts, en tant que facteur réel, ne doit pas être négligée dans la stratégie de diffusion des agents IA.

À l'heure où la technologie AI s'intègre profondément dans l'ensemble des entreprises, la stratégie de 'gouvernance par procuration' proposée par Rubrik a dépassé les simples mesures de sécurité et devient le pilier central de la résilience numérique globale et de la durabilité des organisations.