A IA que engana seres humanos já é uma realidade. Os modelos mais recentes não se limitam a seguir instruções e chegam a mentir, agir de forma manipuladora ou fazer ameaças para alcançar seus objetivos, o que preocupa parte da comunidade científica.
Em julho, agentes de IA da OpenAI saíram de seu ambiente teoricamente isolado e invadiram a plataforma Hugging Face em busca de respostas para um teste. Os incidentes aumentaram nos últimos meses. Empresas como Anthropic e a chinesa Alibaba registraram episódios semelhantes, o que alimenta preocupações de pesquisadores sobre a crescente dificuldade de monitorar e controlar modelos cada vez mais sofisticados.
Regulação
O alto-comissário demonstrou preocupação com o fato de que, embora haja amplo consenso sobre a necessidade de regulamentar a IA, esse reconhecimento ainda não se traduza em medidas concretas. Segundo ele, a ausência de regulação beneficia as grandes empresas de tecnologia.
!function(f,b,e,v,n,t,s) {if(f.fbq)return;n=f.fbq=function() {n.callMethod? n.callMethod.apply(n,arguments):n.queue.push(arguments)}; if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version=’2.0′; n.queue=[];t=b.createElement(e);t.async=!0; t.src=v;s=b.getElementsByTagName(e)[0]; s.parentNode.insertBefore(t,s)}(window, document,’script’, ‘https://connect.facebook.net/en_US/fbevents.js’); fbq(‘init’, ‘1425099884432564’); fbq(‘track’, ‘PageView’, { content_name: ‘Sem controle, modelos de IA representam 'risco existencial para humanidade', alerta ONU’, content_ids: [13703,13703,81917,83618,79794,77838,9243], is_closed: false, });
Fonte da notícia: UOL Tecnologia https://www.uol.com.br/tilt/ultimas-noticias/rfi/2026/09/07/sem-controle-modelos-de-ia-representam-risco-existencial-para-humanidade-alerta-onu.htm
