Các nền tảng mạng xã hội lớn đang đối mặt với áp lực ngày càng gia tăng về việc lạm dụng nội dung do AI tạo ra. Sau nhiều phản ánh của người dùng về các tính năng tạo ảnh deepfake và hình ảnh không có sự đồng ý, các nền tảng buộc phải thắt chặt kiểm soát. Một nền tảng mạng xã hội hàng đầu đã công bố sẽ vô hiệu hóa khả năng của công cụ tạo hình ảnh AI của mình trong việc chỉnh sửa ảnh của người thật mà không có sự cho phép. Động thái này phản ánh mối quan ngại ngày càng tăng về quyền riêng tư kỹ thuật số, sự đồng ý và khả năng lạm dụng công nghệ trí tuệ nhân tạo. Các cơ quan quản lý và nhóm quyền dân sự ngày càng xem xét kỹ lưỡng cách các nền tảng xử lý các khả năng AI nhạy cảm, đặc biệt là những khả năng ảnh hưởng đến hình ảnh cá nhân và bảo vệ danh tính.