ECA Digital: escolas devem parar de postar fotos de alunos nas redes?
Post podem ser entendidos como publicidade e divulgação de imagens expõe crianças a riscos. Crédito: edição: Amanda Dantas
Chatbots de inteligência artificial (IA) usados para simular relações de amizade ou romance por menores de idade viraram alvo de investigação no Brasil. O Ministério da Justiça e Segurança Pública (MJSP) divulgou na última terça-feira (22) uma nota técnica sobre o assunto.
O relatório foi produzido pela Secretaria Nacional de Direitos Digitais (Sedigi) e encaminhado para a Agência Nacional de Proteção de Dados (ANPD), órgão que cuida da fiscalização das diretrizes do ECA Digital.
O problema dos chatbots de amizade
De acordo com o relatório, serviços digitais voltados para “relações de amizade, companheirismo ou vínculo afetivo” são perigosos em especial para crianças e adolescentes, que podem ter maior dificuldade para lidar com esse tipo de relacionamento virtual e simulado.
A consultoria técnica coordenada por um professor da Universidade Federal Rural de Pernambuco (UFRPE), George Augusto Valença Santos. As seguintes plataformas foram avaliadas:
- Character.AI;
- Replika;
- Nomi;
- Candy.ai;
- Kindroid;
- Chai;
- Paradot;
- Talkie;
- Crushon.ai;
- Eva AI;
- Swipey;
- Anima;
- SpicyChat.AI.
Segundo a análise, os serviços apresentam riscos relacionados a “apego intenso, uso compulsivo, substituição de vínculos humanos, exposição a conteúdo sexualizado ou inadequado” e outros possíveis problemas.
Da lista, a Character.AI até já foi processada nos Estados Unidos devido ao uso intenso pelo envolvimento em tragédias envolvendo jovens que estavam em um estado delicado de saúde mental.
Além de consequências como privação de sono, queda no desempenho escolar, abandono de atividades e distanciamento das relações presenciais, esse tipo de plataforma não oferece mecanismos eficazes de comprovação de idade.
close-up of hands of the child with the mobile phone Foto: Adobe Stock
O estudo aponta também que eles ainda podem fazer perfilamento de dados dos usuários, usados para “direcionar publicidade e estimular a contratação de recursos pagos”.
O material de caráter preliminar e de mapeamento será utilizado como base para a criação de um guia sobre o tema em desenvolvimento pela Sedigi.
Além disso, autoridades competentes como a ANPD e a Secretaria Nacional do Consumidor (Senacon) agora terão mais informações para realizar apurações e investigações formais sobre essas plataformas antes de eventuais acusações.
O que Instagram, TikTok e Roblox removeram depois do ECA Digital? Saiba nesta matéria!/Com informações de MJSP.
Fonte da notícia: Estadão | As Últimas Notícias do Brasil e do Mundo https://www.estadao.com.br/tecmundo/inteligencia-artificial/governo-investiga-chatbots-de-ia-que-servem-de-companhia-para-menores-de-idade/
Nilton Kleina
