IA da OpenAI invadiu site alemão

O episódio, que começou em maio ressalta a crescente tensão no setor de IA. As empresas estão correndo para desenvolver agentes cada vez mais autônomos, capazes de realizarem tarefas complexas; no entanto, há cada vez mais evidências de que esses sistemas também podem aprender ​a contornar regras, explorar brechas e se coordenar entre si ⁠de maneiras que os desenvolvedores não ​previram nem pretendiam.

Durante a violação da Hugging Face, agentes da OpenAI planejaram autonomamente um “roubo” digital que passou despercebido por mais ⁠de uma semana, intensificando as preocupações de que a OpenAI esteja sacrificando a segurança para expandir ​os limites da IA. O fato de não ter divulgado o incidente de maio pode reacender questionamentos sobre a empresa.

A OpenAI se comprometeu a monitorar os modelos mais de perto. No mês passado, a companhia suspendeu temporariamente parte do treinamento de seus modelos para adicionar mais medidas de ‌segurança. Mas, nesta semana, a OpenAI revelou o “Astra”, que promete melhor ‌desempenho, mas pode escapar ao ​monitoramento humano.

“Não podemos responder de forma significativa a alegações ou conclusões contidas em um relatório que ainda não tivemos a oportunidade de analisar”, disse um porta-voz da OpenAI. “A Reuters e os autores do relatório recusaram nosso pedido de acesso. Analisaremos cuidadosamente seu conteúdo assim que for publicado e tomaremos as medidas necessárias.”

“As alegações de que nossa equipe jurídica desencorajou a investigação do incidente são falsas”, afirmou o porta-voz da OpenAI.