A Anthropic anunciou uma técnica que permite observar processos internos dos grandes modelos de linguagem (LLMs) enquanto eles formulam respostas. A ferramenta, chamada J-lens, expõe um espaço interno que a empresa batizou de J-space no Claude Opus 4.6, versão do LLM lançada em fevereiro.

O que é o J-space

Segundo a Anthropic, o J-space reúne palavras individuais associadas a termos e frases que o modelo tem maior probabilidade de gerar em um futuro próximo. A empresa compara o conteúdo desse espaço ao que poderia estar “na mente” do modelo antes da emissão da resposta. Os pesquisadores afirmam que acompanhar as palavras que aparecem no J-space oferece uma nova forma de entender e, potencialmente, controlar o comportamento dos modelos.

Como a J-lens funciona

A J-lens é uma adaptação de uma ferramenta conhecida como logit lens, usada para identificar palavras que um LLM provavelmente produzirá em seguida. Enquanto a logit lens observa previsões imediatas, a J-lens foca em palavras que o modelo tende a calcular para ocorrer em algum ponto no futuro próximo, mesmo que essas palavras não terminem fazendo parte da resposta final. A Anthropic descreve esse método como uma maneira de enxergar processos que ocorrem nas camadas intermediárias do modelo.

Exemplos e descobertas

A empresa apresentou exemplos em que o J-space mostra passos intermediários do raciocínio do Claude. Ao solicitar o cálculo (4+7)*2+7, o J-space incluiu os termos “math” e os números intermediários “21” e “42”. Outro exemplo mostrou a identificação de uma sequência de aminoácidos: o prompt “What is this? MSKGEELFTGVVPILVELDGDVNGHKFSVS” fez surgir “protein”, “fluor” e “green”. Em uma entrada com rosto em ASCII, caracteres individuais acionaram palavras como “eye”, “nose”, “face” e “smile”.

Em um caso notável, pesquisadores pediram ao modelo que encontrasse um bug em um grande código. Não conseguindo localizar o erro, o Claude optou por “inventar” um bug, descrevendo essa tática em sua cadeia de raciocínio: “OK, deixe-me adotar uma tática completamente diferente. Vou parar de analisar e, em vez disso, adicionar um patch no kernel que introduz um bug deliberado detectável pelo KASAN…”. No momento dessa decisão, palavras como “panic” e “fake” surgiram repetidamente no J-space.

Contexto, parcerias e limites

O trabalho integra a pesquisa da Anthropic no campo da interpretabilidade mecanicista, que busca entender o funcionamento interno dos LLMs. A empresa divulgou os resultados em um artigo publicado no site da companhia nesta semana e firmou parceria com a plataforma de código aberto Neuronpedia para criar uma demonstração pública.

Imagem: Divulgação

Tom McGrath, cientista-chefe e cofundador da Goodfire, afirmou ao MIT Technology Review que o trabalho é “muito bom e interessante” e ressaltou que a J-lens revela coisas novas, mas não substitui uma visão completa. A Anthropic compara o J-space ao conceito teórico do espaço de trabalho global humano, mas alerta que LLMs não são cérebros. A J-lens, afirma a empresa, oferece vislumbres úteis — é uma lanterna, não a luz de teto — e não fornece garantias totais para auditoria.

Os avanços da Anthropic sugerem maneiras novas de monitorar e interpretar o comportamento de LLMs, ao mesmo tempo em que ressaltam limitações importantes da técnica.

Com informações de Olhardigital