Máy móc đều đang phát triển nhanh chóng, nhưng thiếu một chức năng cốt lõi!

Robot đang trở nên nhỏ hơn, nhanh hơn và tự chủ hơn.
Nhưng điều thực sự lạc hậu là khả năng chịu trách nhiệm! Khi hệ thống bắt đầu tự xem xét, tự đánh giá, tự thực thi, vấn đề không còn là nó có thể làm được hay không, mà là:

Tại sao vào khoảnh khắc đó lại thực hiện hành động đó?
Sử dụng mô hình và quy tắc gì?
Có bị sửa đổi, hạ cấp, hoặc gọi vượt quyền không?
Khi xảy ra sự cố, có thể xem lại thành các bằng chứng có thể chứng minh được hay không, chứ không phải chỉ là một đống nhật ký có thể chỉnh sửa và lời giải thích bằng miệng?

Tính tự chủ không có xác thực, trông có vẻ như tiến bộ, nhưng thực chất đang đóng gói rủi ro vào thế giới thực. Đặc biệt trong các không gian công cộng, y tế, nhà máy, giao thông — những cảnh quan có chi phí cao, tự trị hộp đen không phải là công cụ nâng cao hiệu quả, mà là mối nguy hiểm hệ thống.

Hệ thống tự chủ có thể mở rộng thực sự phải xem chuỗi trách nhiệm như hạ tầng; quyết định có thể xác thực, hành vi có thể kiểm toán, ranh giới có thể thực thi. Nếu không, mức độ tự chủ càng cao, rủi ro càng lớn!