Meta exibiu anúncios com abuso sexual infantil gerado por IA

Uma das peças citadas pelo TTP usava a miniatura de uma criança e sugeria “fantasias” com IA. Os pesquisadores afirmam que, ao clicar, o vídeo mostrava cenas sexuais com adultos e depois inseria o rosto da criança em uma cena de sexo, em um exemplo de manipulação por IA.

Katie Paul, diretora do TTP, diz que o problema não foi apenas conteúdo publicado por usuários, mas publicidade aprovada pela empresa. “Esses anúncios não fizeram nenhum esforço para mascarar as imagens ou esconder o que estavam promovendo. É importante destacar que isso não é conteúdo postado por terceiros no Facebook ou Instagram; são anúncios que foram revisados, aprovados e autorizados a rodar pela Meta, sem sofrer interferência enquanto a empresa arrecadava o dinheiro da publicidade”, afirmou Katie à revista americana.

Após ser procurada pela Wired, a Meta removeu os anúncios e informou que eles violavam suas políticas. “A exploração sexual é horrível, e trabalhamos de forma agressiva para mantê-la fora da nossa plataforma. A maioria desses anúncios teve alcance mínimo e muitos foram desativados antes de a Wired compartilhá-los. Muitos desses anúncios também são anteriores a uma nova tecnologia de IA que lançamos recentemente para detectar e bloquear anúncios que violam regras no envio — e estamos melhorando esses sistemas o tempo todo. De remover mais de 36 milhões de conteúdos de exploração sexual infantil no ano passado a tomar medidas legais contra desenvolvedores de apps de nudificação, vamos continuar combatendo esse abuso sem parar”, disse um porta-voz da Meta à Wired.

Alcance e falhas de detecção

Dados da biblioteca de anúncios indicam que ao menos uma peça alcançou 2.563 contas na Europa, em países como França, Alemanha, Irlanda, Itália, Holanda, Espanha, Suécia e Reino Unido. A Wired ressalta que a ferramenta não traz métricas completas para todos os países, o que pode significar que o alcance total foi maior.

O TTP afirma ter encontrado inicialmente cerca de duas dezenas de anúncios e, horas antes da publicação, identificou mais cerca de 30. Segundo a organização, parte desse novo lote foi publicada depois de a Wired ter questionado a Meta sobre o tema, e alguns anúncios ainda estavam no ar quando foram localizados.