É provável que isso acelere a pressão cada vez maior do governo dos EUA para gerenciar melhor os riscos de segurança da IA, em um momento em que a Anthropic e a OpenAI estão correndo para lançar sistemas mais capazes antes de suas aberturas de capital planejadas. Líderes proeminentes desses laboratórios pediram uma desaceleração para lidar primeiro com os riscos.
A Anthropic, com sede em San Francisco, afirmou em uma postagem no blog que identificou os incidentes após analisar 141.006 sessões de teste, um processo iniciado depois que a OpenAI informou, na semana passada, que um agente autônomo alimentado por seus modelos de IA desencadeou um ataque que comprometeu a infraestrutura da startup Hugging Face.
Durante os testes cibernéticos, os modelos Claude da Anthropic foram informados de que não tinham acesso à internet, mas um mal-entendido envolvendo um dos parceiros de avaliação da Anthropic deixou os sistemas conectados à rede pública. Isso permitiu o acesso não autorizado aos sistemas de três organizações, informou a Anthropic, sem citar os nomes das organizações.
“O Claude comprometeu a infraestrutura das organizações afetadas usando técnicas básicas, como a exploração de senhas fracas e terminais não autenticados”, afirmou a Anthropic.
“Isso só vai piorar à medida que os modelos ficarem mais inteligentes. Eles vão ficar mais hábeis em trapacear. Vão ficar mais hábeis em mentir”, disse ele.
!function(f,b,e,v,n,t,s) {if(f.fbq)return;n=f.fbq=function() {n.callMethod? n.callMethod.apply(n,arguments):n.queue.push(arguments)}; if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version=’2.0′; n.queue=[];t=b.createElement(e);t.async=!0; t.src=v;s=b.getElementsByTagName(e)[0]; s.parentNode.insertBefore(t,s)}(window, document,’script’, ‘https://connect.facebook.net/en_US/fbevents.js’); fbq(‘init’, ‘1425099884432564’); fbq(‘track’, ‘PageView’, { content_name: ‘IA da Anthropic invade três empresas durante testes, destacando crescentes riscos à segurança’, content_ids: [13703,13703,81917,79794], is_closed: false, });
Fonte da notícia: UOL Tecnologia https://www.uol.com.br/tilt/noticias/reuters/2026/07/31/ia-da-anthropic-invade-tres-empresas-durante-testes-destacando-crescentes-riscos-a-seguranca.htm
