estudo diz que Claude criou “workspace” interno

*Segundo a empresa, cada padrão do J-space se conecta a uma palavra ou conceito – como se fosse um “assunto na cabeça” do modelo – mas isso não significa que ele vá necessariamente falar aquilo na resposta.

*A Anthropic afirma que o J-space é diferente do “chain of thought” (o rascunho de raciocínio em texto que alguns modelos podem mostrar): aqui, o “rascunho” fica só por dentro, nas ativações do modelo.

*Nos testes descritos, a empresa diz que o Claude consegue relatar o que está no J-space quando é perguntado e também consegue segurar um conceito ali quando recebe instruções para pensar em algo em silêncio.

*A Anthropic afirma que, em tarefas de várias etapas, passos intermediários aparecem no J-space mesmo quando o modelo não os escreve – e que isso ajuda a explicar por que ele acerta (ou erra) problemas mais complexos.

*Segundo a empresa, quando pesquisadores impediram o Claude de usar o J-space, ele continuou conversando de forma normal e lembrando fatos simples, mas perdeu desempenho em funções cognitivas de ordem mais alta, como resolver problemas com múltiplos passos.

*A Anthropic diz que observar o J-space pode ajudar a flagrar comportamentos escondidos, como o modelo notar que está sendo testado, fabricar dados de propósito ou perseguir um objetivo oculto inserido no treinamento.