Cảm giác ngày thứ Sáu mưa khiến tôi đắm chìm vào các cơ chế tin cậy AI. Đã xem xét cách mà proof-of-inference đang âm thầm cách mạng hóa không gian zk-ml.

Hãy nghĩ về điều này - các vòng RLHF nơi sở thích của con người định hình hành vi của mô hình, nhưng đây là điểm đặc biệt: các snark không kiến thức kiểm tra toàn bộ quá trình phù hợp mà không tiết lộ phản hồi nhạy cảm. Không rò rỉ dữ liệu, chỉ có bằng chứng mật mã rằng quá trình đào tạo trung thành với ý định.

Đó là loại hạ tầng ML bảo vệ quyền riêng tư thực sự hợp lý cho AI phi tập trung.