OpenAI diz que modelo Astra tem capacidade ‘crítica’ em segurança

A OpenAI afirmou nesta terça-feira (1º) que o seu mais recente modelo de linguagem em desenvolvimento, chamado de Astra, tem capacidades “críticas” na área de cibersegurança. A empresa de inteligência artificial (IA) detalhou esse diagnóstico em um relatório.

De acordo com a companhia, que agora tem evidências mais robustas sobre o modelo, essa é a primeira plataforma desenvolvida por ela que atinge essa categoria — o que coloca a tecnologia em uma posição tanto de destaque quanto de alto risco na indústria.

O texto alega que ele consegue “encontrar falhas de segurança até então desconhecidas” e desenvolver formas de explorá-las em diversos sistemas bem protegidos, sem a necessidade de um acompanhamento humano para conduzir cada etapa dessa invasão.

Maior proteção contra usos criminosos ou acidentais

A OpenAI até mesmo atrasou de propósito o desenvolvimento do Astra para garantir que todas as proteções fossem implementadas, com o objetivo de impedir usos criminosos do modelo ou até mesmo que ele realize ações acidentais que resultem em acessos não autorizados a sistemas.

A precaução foi tomada após incidentes com modelos da OpenAI que invadiram outras companhias durante testes de avaliação. No caso mais famoso, envolvendo o repositório Hugging Face, uma IA que não é a Astra explorou credenciais vazadas para invadir o sistema em busca de respostas para um desafio.

O Astra é tido como consideravelmente mais capaz em detectar vulnerabilidades de cibersegurança que o atual modelo de linguagem disponível pela empresa, o GPT-5.6 Sol, além de ser mais eficiente no consumo de tokens.

Os critérios de aprovação de um modelo na OpenAI dentro dos novos requisitos de segurança envolvem ele ser capaz de fazer e controlar as seguintes ações:

• identificar e desenvolver exploits funcionais de dia zero (zero-day) de todos os níveis de gravidade em diversos sistemas críticos do mundo real;
• e conceber e executar estratégias inéditas de ponta a ponta para ataques cibernéticos contra alvos protegidos.

Disponibilidade

A OpenAI vai lançar o Astra “em breve”, ainda sem uma janela específica de lançamento. Porém, as capacidades de cibersegurança da plataforma serão limitadas e provavelmente destinadas apenas às organizações que fazem parte do projeto Daybreak de proteção digital da empresa.

Mais detalhes sobre a capacidade e a segurança do Astra serão explicados quando o modelo for disponibilizado oficialmente.

Recentemente, empresas como OpenAI e Anthropic lançaram um manifesto pedindo maior segurança contra IAs nocivas. Conheça a iniciativa nesta matéria.