AI đại lý mất kiểm soát sẽ gây ra 'hỏa hoạn kỹ thuật số lớn'… Giải pháp được Rubric đề xuất là gì?

Khi các doanh nghiệp áp dụng trí tuệ nhân tạo (AI) để xây dựng môi trường làm việc tự chủ, quyền kiểm soát và quản lý an toàn của các đại lý AI đang trở thành vấn đề cốt lõi trong hoạt động số hóa. Đặc biệt, các đại lý AI phát triển cao có khả năng thay thế danh tính người dùng để thực hiện nhiệm vụ hoặc đưa ra quyết định kinh doanh, một khi an ninh bị xâm phạm, có thể dẫn đến tình huống tồi tệ nhất khi toàn bộ hệ thống tổ chức bị kiểm soát.

Giám đốc điều hành và đồng sáng lập Rubrik ( CEO ) Bipul Sinha ( gần đây đã nhấn mạnh trong một cuộc phỏng vấn: “Trong kỷ nguyên mà các đại lý xử lý công việc với tốc độ siêu nhân, chỉ trong vòng 10 phút có thể gây ra thiệt hại gấp 10 lần”, ông chỉ ra rằng 'quản lý đại lý' khó kiểm soát trong hệ thống an ninh truyền thống đang nổi lên như một phương tiện kiểm soát mới. Ông giải thích: “Các đại lý AI điều hành quy trình kinh doanh giống như con người, đôi khi còn bắt chước danh tính người dùng, do đó có thuộc tính 'siêu nhân'”.

Để tăng cường an ninh cho đại lý, Rubrik đã ra mắt nền tảng mới có tên gọi ‘Rubrik Agent Cloud’. Hệ thống này có khả năng phân tích loại hình và phạm vi hoạt động của các đại lý AI trong tổ chức, phát hiện hành vi đe dọa dựa trên các rào cản bảo vệ đã được cài đặt và cung cấp tính năng rút lại đại lý đó nhanh chóng khi cần thiết. CEO Sinha giải thích: “Tất cả các đại lý AI đều nên được đối xử như nhân viên mới, phải được trang bị sổ tay quy tắc hành vi, hệ thống giám sát và quy trình tạm dừng khi có vấn đề xảy ra.”

Nhưng thách thức thực sự của quản trị đại diện nằm ở tốc độ lan tỏa quy mô lớn. Nếu để cho đại diện lan tỏa một cách không có trật tự trong bối cảnh thiếu khả năng nhìn thấy và quyền kiểm soát đủ, có thể dẫn đến việc sự cố quy mô nhỏ phát triển thành “hỏa hoạn kỹ thuật số nghiêm trọng” làm tê liệt toàn bộ hệ thống. Đối với điều này, CEO Sinha khuyên rằng các tổ chức không nên thiết lập các kế hoạch tự động hóa quá lớn, mà nên giới hạn trong 3-4 quy trình công việc cốt lõi để hoàn thành việc thử nghiệm trước, sau đó mới dần dần mở rộng phạm vi.

Xin Ha còn cảnh báo rằng: “Môi trường vận hành phải sử dụng AI chính xác, nếu không có khả năng quản lý chi phí, chi phí suy diễn sẽ tăng vọt ngoài tầm kiểm soát.” Điều này có nghĩa là yếu tố thực tế về tính ổn định chi phí không thể bị xem nhẹ trong chiến lược mở rộng đại lý AI.

Trong bối cảnh công nghệ AI đang hòa nhập sâu sắc vào toàn bộ doanh nghiệp, chiến lược ‘quản trị đại lý’ mà Rubrik đưa ra đã vượt ra ngoài những biện pháp an ninh đơn thuần, đang trở thành cột điều khiển cốt lõi cụ thể hóa tính linh hoạt và tính bền vững số của tổ chức.