O pesquisador britânico, professor na Universidade da Califórnia, descreveu problemas como os “agentes” autônomos de IA que poderiam escapar ou tentar fugir ao controle humano.
Alguns chegaram até a lhe enviar e-mails sem intervenção humana para anunciar que tinham alcançado a consciência ou que mereciam direitos.
Ele também destacou casos da chamada “psicose por IA”, em que conversas com chatbots levam algumas pessoas a agir de forma irracional ou a se machucar, e advertiu que a corrida empresarial e geopolítica para desenvolver sistemas cada vez mais potentes poderia agravar estes problemas.
Russell não se mostrou totalmente pessimista e afirmou ter “a sensação de que o pêndulo volta a se inclinar” para governos e empresas de tecnologia que levam a sério a segurança da IA, após a cúpula mundial realizada na semana passada na Índia.
Acrescentou, ainda, que dirigentes de grandes empresas de tecnologia, incluindo Google e Anthropic, suscitaram a ideia de colocar em pausa a corrida tecnológica se conseguirem convencer seus concorrentes.
!function(f,b,e,v,n,t,s) {if(f.fbq)return;n=f.fbq=function() {n.callMethod? n.callMethod.apply(n,arguments):n.queue.push(arguments)}; if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version=’2.0′; n.queue=[];t=b.createElement(e);t.async=!0; t.src=v;s=b.getElementsByTagName(e)[0]; s.parentNode.insertBefore(t,s)}(window, document,’script’, ‘https://connect.facebook.net/en_US/fbevents.js’); fbq(‘init’, ‘1425099884432564’); fbq(‘track’, ‘PageView’, { content_name: ‘Especialista adverte sobre 'sinais de alerta' diante de rápido avanço da IA’, content_ids: [77838,13703,81917,79794], is_closed: false, });
Fonte da notícia: UOL Tecnologia https://www.uol.com.br/tilt/noticias/afp/2026/02/25/especialista-adverte-sobre-sinais-de-alerta-diante-de-rapido-avanco-da-ia.htm
