HammingAI ra mắt công cụ Red Team, tự động kiểm thử độ an toàn của các tác nhân AI xử lý giọng nói

robot
Đang tạo bản tóm tắt
AIMPACT đưa tin ngày 28 tháng 4 (UTC+8): công ty khởi nghiệp HammingAI (YC S24), được Y Combinator hậu thuẫn, đã ra mắt sản phẩm Red Team để tự động hóa việc kiểm thử đối đầu cho các tác nhân (agent) giọng nói. Công cụ này có thể chạy hàng trăm cuộc gọi điện thoại đối kháng thực sự nhắm vào các tác nhân giọng nói, bao phủ 15 nhóm tấn công, đồng thời trong các vòng thử nghiệm nhiều lượt có thể tự điều chỉnh chiến lược tấn công dựa trên các vấn đề được phát hiện. Người dùng chỉ cần một lần nhấp để khởi động toàn bộ quy trình kiểm thử. Công cụ này nhằm nâng cao độ an toàn và độ bền vững cho các tác nhân giọng nói. (Nguồn: InFoQ)
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim