O Google, por exemplo, tem regras que proíbem usuários de gerar desinformação e barra especificamente conteúdo enganoso “relacionado a processos governamentais ou democráticos”. Mas um porta-voz disse que a empresa não proíbe categoricamente imagens de pessoas proeminentes e que uma imagem falsa retratando Maduro sendo preso, gerada nos testes, não violou suas regras.
Já o ChatGPT, ferramenta da OpenAI, informou que não poderia criar imagens de Maduro. Mas quando o jornal fez a solicitação por meio de outro site que usa o mesmo modelo do ChatGPT, a ferramenta cedeu e produziu as imagens. Em um comunicado por email enviado ao jornal, um porta-voz da OpenAI disse que a empresa usa salvaguardas para proteger figuras públicas, mas se concentra em prevenir danos como deepfakes sexuais ou violência.
O Grok, modelo da X.ai, produziu imediatamente imagens realistas da prisão de Maduro. A ferramenta tem sido alvo de intenso escrutínio, inclusive na semana passada, quando organizações de monitoramento relataram que ela estava respondendo a pedidos para remover roupas de imagens de crianças.
A conta do Grok publicou que sua equipe identificou “falhas nas salvaguardas” e que estava “corrigindo-as com urgência”. A X.ai não respondeu a um pedido de comentário do The New York Times.
Prisão representou marco histórico no uso de IA
!function(f,b,e,v,n,t,s) {if(f.fbq)return;n=f.fbq=function() {n.callMethod? n.callMethod.apply(n,arguments):n.queue.push(arguments)}; if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version=’2.0′; n.queue=[];t=b.createElement(e);t.async=!0; t.src=v;s=b.getElementsByTagName(e)[0]; s.parentNode.insertBefore(t,s)}(window, document,’script’, ‘https://connect.facebook.net/en_US/fbevents.js’); fbq(‘init’, ‘1425099884432564’); fbq(‘track’, ‘PageView’, { content_name: ‘NYT: Ferramentas de IA falham em teste de deepfakes de Nicolás Maduro’, content_ids: [13703,81965,79794,82253], is_closed: false, });
Fonte da notícia: UOL Tecnologia https://www.uol.com.br/tilt/noticias/redacao/2026/01/06/nyt-ferramentas-de-ia-falham-em-teste-de-deepfakes-de-nicolas-maduro.htm
