As principais plataformas de redes sociais enfrentam uma pressão crescente devido ao abuso de conteúdo gerado por IA. Após queixas generalizadas dos utilizadores sobre recursos de deepfake e geração de imagens sem consentimento, as plataformas estão a ser obrigadas a reforçar os controlos. Uma das principais plataformas sociais anunciou que desativaria a capacidade da sua ferramenta de IA generativa de manipular fotos de pessoas reais sem permissão. A medida reflete as crescentes preocupações sobre privacidade digital, consentimento e uso indevido potencial da tecnologia de inteligência artificial. Reguladores e grupos de direitos civis aumentam a fiscalização sobre como as plataformas lidam com capacidades sensíveis de IA, particularmente aquelas que afetam imagens pessoais e proteção de identidade.