Ông chủ của một công ty tìm kiếm AI lớn vừa đưa ra một cảnh báo nghiêm trọng về những ứng dụng bạn gái và bạn trai AI tràn lan trên thị trường.

Mối quan tâm của ông ấy là gì? Mọi người đang dành hàng giờ vào những mối quan hệ ảo này, và tác động tâm lý có thể mạnh mẽ hơn nhiều so với mọi người nghĩ. Hãy nghĩ xem - những ứng dụng này được thiết kế để luôn chú ý, luôn sẵn sàng, không bao giờ phản đối. Nghe có vẻ tuyệt vời, phải không? Sai rồi.

Nguy cơ nằm ở chỗ các hệ thống này có thể tinh vi định hình lại hành vi và kỳ vọng của người dùng. Khi một người bạn AI học được chính xác điều gì khiến bạn bị cuốn hút, nó tối ưu hóa cho việc giữ chân người dùng, chứ không phải vì lợi ích của bạn. Người dùng thậm chí có thể không nhận ra rằng các mẫu suy nghĩ của họ đang thay đổi.

Đây không phải là một kịch bản viễn tưởng xa vời. Hàng triệu người đã và đang sử dụng các nền tảng này hàng ngày, hình thành các mối liên kết cảm xúc với các thuật toán. Khi AI ngày càng tinh vi hơn, ranh giới giữa công cụ hữu ích và ảnh hưởng thao túng trở nên mờ nhạt.

Không gian tiền mã hóa và Web3 nên chú ý - quản trị AI phi tập trung có thể là câu trả lời để ngăn chặn sự thao túng cảm xúc do các tập đoàn kiểm soát.