Discord vira alvo no Brasil; como aconteceu? IA, sigilo e novas leis

O que aconteceu foi um evento fatal. A gente teve o suicídio de uma jovem de 13 anos que estava participando de uma live no Discord e isso chamou bastante atenção. Primeiro, a demora da plataforma em tirar a live do ar. Aí pipocaram várias denúncias de como o Discord muitas vezes pode falhar numa moderação. A ANPD não tirou o Discord do ar, mas pediu que o Discord desabilitasse uma das funções, as transmissões ao vivo.
Diogo Cortiz

Helton Simões Gomes diz que o suicídio foi o estopim, mas não o começo do problema. Pairam denúncias sobre a plataforma ao menos desde 2023 e os sinais de moderação de conteúdo mais fraca começaram a surgir na Europa, segundo a ONG Safernet.

Para além da tragédia, o que faz o Discord entrar verdadeiramente na mira das autoridades é o Brasil agora ter instrumentos para enquadrar plataformas quando a falhas deixam de ser pontuais e viram padrão

O que mudou é que o Brasil agora tem um arcabouço jurídico robusto e sólido o suficiente para enquadrar plataformas como o Discord. A gente está falando do ECA digital e da repaginação do Marco Civil, depois do julgamento do STF, que considerou parcialmente inconstitucional o artigo 19. Nesse julgamento foi trazido o conceito de falha sistêmica: a plataforma não vai ser punida se deixar um ou outro post, mas vai ser punida se falhar sistematicamente em não tirar esse tipo de conteúdo do ar.
Helton Simões Gomes

As mudanças legislativas no Brasil vieram acompanhadas de uma entidade para monitorar a aplicação das novas regras, e a transformação da Agência Nacional de Proteção de Dados contribuiu para o momento enfrentado pelo Discord.

O Discord, no entanto, aponta um desafio mais amplo: crimes que atravessam serviços e “pulam” de um app para outro. Ele relata que a investigação passou a olhar para a atuação do grupo em diferentes plataformas, como Telegram, TikTok, Instagram e o próprio Discord.