ONU pede regulamentação da IA antes que ela ‘assuma o controle’

O secretário-geral da Organização das Nações Unidas (ONU), António Guterres, alertou nesta segunda-feira (6) que a inteligência artificial está avançando mais rápido do que a humanidade consegue acompanhar e pediu a regulamentação da tecnologia com o objetivo de diminuir riscos potenciais, principalmente para crianças. O assunto foi abordado durante evento em Genebra (Suíça).

Para ele, a IA traz benefícios em áreas como saúde, ciência e informática, entre várias outras. No entanto, é importante discutir, o quanto antes, se o ser humano vai governar a IA em conjunto ou permitir que a tecnologia assuma o controle, diante da “velocidade vertiginosa” em que se desenvolve e da falta de regras mais amplas e específicas sobre a sua utilização.

Proteção de crianças e concentração de poder

De acordo com Guterres, a inteligência artificial traz inúmeras oportunidades de melhorias para o mundo, mas é possível que ainda não estejamos preparados para lidar com máquinas tomando decisões com pouca ou nenhuma supervisão humana. Por isso, ele defende a necessidade de elaborar normas globais para os sistemas inteligentes.

• Essas regras devem ter como prioridade a segurança dos menores, depois de muitos casos em que a interação com a IA teria induzido à prática de automutilação e outros atos colocando vidas em risco;
• “Não permitimos que medicamentos cheguem a uma criança até que sua segurança seja comprovada. Testamos todos os brinquedos. No entanto, a IA já chegou às nossas crianças”, exemplificou;
• A fala aconteceu durante a abertura do Diálogo Global sobre Governança da IA, como relatou a Reuters;
• Segundo o chefe da ONU, a criação de um Compromisso de Segurança Infantil para IA exigiria que as desenvolvedoras comprovassem a segurança de suas tecnologias antes de permitir o acesso das crianças.

Com a norma, também ficaria proibida a geração de imagens sexualizadas de menores, prevenindo incidentes como o do chatbot Grok. E nos casos em que usuários apresentarem sinais de sofrimento ou outras condições de saúde mental, a IA os conectaria, obrigatoriamente, a um humano para obtenção de ajuda.

Guterres também classificou a concentração da IA nas mãos de poucos como um grave problema, deixando os países em desenvolvimento para trás. No momento, os Estados Unidos respondem por 75% do poder computacional que alimenta a IA no mundo, seguidos pela China com 15%.

Como estabelecer regras para mitigar riscos?

No evento organizado pela ONU, os participantes discutem formas de criar leis para mitigar os potenciais danos da IA, bem como aproveitar todo o potencial dos recursos inteligentes. Ao longo do evento na Suíça, o relatório de um painel científico independente será analisado.

O documento apresenta as conclusões da primeira avaliação científica global e independente sobre IA elaborada por 40 especialistas. Ele servirá de base para uma análise mais completa, que deve ser divulgada em 2027 na segunda reunião envolvendo o grupo, programada para Nova York (EUA).

Quem também fez críticas semelhantes e pediu a regulamentação da IA foi o Papa Leão XIV. Saiba o que ele disse nesta matéria.