Adolescentes recebem liberdade condicional após usarem IA para criar nus falsos de colegas

LANCASTER, Pa. (AP) — Dois adolescentes que usaram inteligência artificial para criar fotos falsas de nudez de colegas foram colocados em liberdade condicional na quarta-feira e entregues aos cuidados dos seus pais.

Os rapazes, que tinham 14 anos na altura, admitiram no início deste mês que criaram 59 imagens de abuso sexual infantil. Os procuradores disseram que manipularam fotos de raparigas, muitas do Instagram, com imagens virtuais de adultos a mostrar nudez ou atividade sexual.

Algumas das vítimas eram colegas deles na Lancaster Country Day School, a oeste da Filadélfia. A polícia afirmou em documentos judiciais que uma mulher reportou que a sua filha disse que um colega tinha “tirado fotografias de estudantes e usado tecnologia de Inteligência Artificial (IA) para retratar as estudantes femininas como nuas.”

A audiência de decisão de quarta-feira, perante o Juiz Leonard Brown III do Tribunal de Primeira Instância do Condado de Lancaster, foi a versão juvenil de uma audiência de sentença.

Juntamente com a liberdade condicional, os rapazes receberam 60 horas de serviço comunitário cada um. Se não tiverem problemas legais adicionais, Brown disse que o caso poderá ser apagado após dois anos. Foram também ordenados a não contactar as vítimas e a pagar uma quantia não especificada de indemnização.

Ao impor a sua sentença, Brown afirmou que não ouviu nenhum dos rapazes pedir desculpa ou assumir responsabilidade pelos seus atos. Se fossem adultos, disse, provavelmente estariam a caminho da prisão estadual.

Durante o processo, os rapazes recusaram várias oportunidades de comentar ao juiz. Depois, um deles recusou-se a comentar fora do tribunal.

“Este tem sido um processo lamentável, longo e tortuoso para todos os envolvidos,” disse Heidi Freese, advogada de um dos rapazes. “Houve questões legais muito interessantes por trás das acusações neste caso, e essas serão decididas noutro dia, noutro processo.”

O Procurador-Geral da Pensilvânia, Dave Sunday, afirmou que o caso “exemplifica o lado obscuro da tecnologia moderna e das redes sociais.”

“Esta conduta envolveu a utilização de tecnologia como arma para vitimizar crianças desprevenidas que tinham fotos online. É evidente que o impacto nas vítimas é devastador,” afirmou Sunday numa declaração no início deste mês.

A resolução do caso na Pensilvânia ocorre dias depois de três adolescentes no Tennessee processarem a Elon Musk’s xAI, alegando que as ferramentas Grok da empresa transformaram as suas fotos reais em imagens explicitamente sexuais. Os estudantes do ensino secundário procuram um estatuto de ação coletiva para representar o que, segundo a ação, são milhares de pessoas que também foram vítimas enquanto menores.

O escândalo na Pensilvânia em 2024 levou a um protesto estudantil, à saída de líderes escolares e a acusações criminais contra os dois adolescentes.

Nadeem Bezar, advogado de Filadélfia que representa pelo menos 10 das vítimas, afirmou na terça-feira que espera apresentar uma reclamação “contra a escola e qualquer outra pessoa que acreditamos ter responsabilidade na criação e disseminação dessas deepfakes.”

Disse que ainda não viu as fotos, mas espera que o processo legal determine “exatamente quando, onde e como a escola soube, como os rapazes criaram essas imagens, quais plataformas usaram para criá-las e como foram disseminadas.”

Bezar afirmou que as reações das raparigas variaram, e para algumas foi traumatizante.

“Estamos a falar de jovens mulheres que são ambiciosas, que se saem bem na escola, tentando fazer tudo para se encaixar e encontrar o seu caminho na vida nesta idade, onde tudo importa,” disse Bezar.

À medida que a IA se tornou acessível e poderosa, legisladores de todo o país aprovaram leis destinadas a proibir deepfakes.

O Presidente Donald Trump assinou no ano passado a Lei Take it Down, que torna ilegal publicar imagens íntimas, incluindo deepfakes, sem consentimento, e obriga sites e redes sociais a remover esse material dentro de 48 horas após notificação por parte da vítima.

Atualmente, 46 estados têm leis que abordam os deepfakes, com legislação apresentada nos restantes quatro — Alasca, Missouri, Novo México e Ohio — segundo o grupo de defesa do consumidor Public Citizen. ____

Os jornalistas da Associated Press, Geoff Mulvihill, de Haddonfield, Nova Jersey, e Holly Ramer, de Concord, New Hampshire, contribuíram.