AI đại lý đối mặt với mối đe dọa tiêm nhiễm: Rủi ro vẫn cao sau khi nâng cấp phòng thủ

【Coin界】Một công ty AI hàng đầu gần đây đã phơi bày một thực tế khó xử: sản phẩm trình duyệt thông minh của họ đang đối mặt với một vấn đề an ninh không thể gạt bỏ - tấn công chèn nhắc nhở. Nói một cách đơn giản, đó là Hacker có thể thông qua các lệnh ẩn trong trang web hoặc email, lén lút thao tác AI đại lý thực hiện các hành động ác ý. Đây không phải là điều mới mẻ, nhưng công ty cũng thừa nhận rằng các cuộc tấn công kiểu này gần như không thể hoàn toàn loại bỏ.

Để đối phó với tình huống này, họ đã kích hoạt một hệ thống phòng thủ tự động dựa trên mô hình ngôn ngữ lớn. Hệ thống phòng thủ này đã được huấn luyện bằng cách tăng cường học tập, có khả năng liên tục mô phỏng các phương pháp tấn công mới mà hacker có thể sử dụng, từ đó phát hiện và bịt kín các lỗ hổng trước. Kết quả là có - gần đây đã thành công trong việc xác định và ngăn chặn các email độc hại cố gắng lừa đảo đại lý gửi thư từ chức.

Nhưng có một vấn đề quan trọng ở đây: những trình duyệt thông minh như vậy, về bản chất,既拥有一定的自主决策能力，又能访问用户的敏感数据。Trong sự kết hợp giữa quyền hạn và tính tự chủ này, mức độ rủi ro an ninh có thể vẫn chưa đạt đến mức mà người dùng cảm thấy yên tâm khi sử dụng hàng ngày. Nói đơn giản, sự tiến bộ trong khả năng phòng thủ không theo kịp tốc độ tăng trưởng của rủi ro.