El contenido inapropiado generado por IA—especialmente material que involucra a menores—se está convirtiendo en un desafío importante para algunas plataformas sociales de primer nivel y sus asistentes de IA asociados. La dificultad para gestionar la plataforma aumenta considerablemente, y la revisión de contenido y la protección de los usuarios se convierten en los temas más urgentes en la actualidad.