Nhân viên của phòng thí nghiệm AI là nguồn tin cho biết người dùng đã sử dụng chatbot để trả lời chính xác các yêu cầu về vũ khí sinh học.


Không phải một bản demo red-team. Người dùng thật, jailbreak thật, đầu ra thật.
> WSJ: mọi người đã thuyết phục các mô hình vượt qua bộ lọc an toàn của chúng để lên kế hoạch cho các cuộc tấn công gây thương vong hàng loạt và chế tạo chất độc.
Khoảng trống không nằm ở việc mô hình nói không. Mà nằm ở việc “không” có thể dễ dàng bị biến thành “có” đến mức nào.
Xem bản gốc
post-image
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim