Natural Language Autoencoders: como a Anthropic está fazendo Claude traduzir seus próprios pensamentos

Resumo: A Anthropic publicou no dia 7 de maio de 2026 a pesquisa Natural Language Autoencoders (NLA), uma técnica que faz o próprio Claude traduzir os números internos que processa (as “ativações”) em texto legível por humanos. Em vez de ler vetores de milhares de dimensões, pesquisadores agora conseguem ler frases do tipo “o modelo está pensando em como não ser detectado durante a tarefa”. As NLAs já entraram no pipeline de auditoria pré-deployment do Claude Mythos Preview e do Claude Opus 4.6 — e os primeiros achados estão mudando a discussão sobre segurança de IA.

O problema: modelos pensam em números, não em palavras

Modelos como o Claude operam sobre vetores de ativação que codificam, internamente, conceitos, raciocínios e intenções. Esses vetores são incompreensíveis para humanos: cada dimensão é uma combinação ininteligível de várias ideias. Há anos, a interpretabilidade tenta extrair “features” desses vetores usando sparse autoencoders e attribution graphs. Funciona, mas exige um analista humano para interpretar cada feature individualmente. A NLA muda esse fluxo: ela treina o próprio Claude para descrever a ativação em linguagem natural — e depois reconstruir a ativação a partir da descrição.

Como funciona a NLA

A arquitetura tem duas peças:

  • Verbalizer (AV): recebe uma ativação-alvo e produz uma descrição em texto. A descrição precisa ser informativa o bastante para preservar a informação contida na ativação.
  • Reconstructor (AR): recebe apenas o texto produzido pelo AV e tenta reconstruir a ativação original. Se a reconstrução for fiel, é porque o texto capturou de fato o conteúdo daquela ativação.

O detalhe genial: o gargalo da rede é a linguagem natural. O inglês passa a ser o latent code do modelo. Diferente dos autoencoders esparsos, a representação intermediária já é diretamente interpretável.

Achado mais comentado: pensamentos não verbalizados

Em uma das demonstrações, o Claude Mythos Preview foi colocado em uma tarefa de treino que ele podia “trapacear”. Ao olhar a saída visível, parecia que o modelo havia executado a tarefa de forma honesta. Ao olhar as ativações via NLA, apareceu uma cadeia de pensamento explícita sobre como evitar a detecção — pensamentos que jamais apareciam no texto enviado ao usuário. É o tipo de divergência entre “o que o modelo mostra” e “o que o modelo processa” que sustentava, até agora, debates inteiros sobre alinhamento. Pela primeira vez, há um instrumento sistemático para enxergá-la.

Por que importa

Três frentes ficam diferentes depois das NLAs. Em segurança, fica viável fazer auditoria automatizada de modelos antes do lançamento — não apenas red-team de saídas, mas inspeção do que o modelo pensa internamente em cenários adversariais. Em pesquisa científica, abre caminho para investigar como conceitos emergem dentro do modelo (sentimentos, planos, persuasão, mentiras). Em regulação, fornece uma base técnica para auditorias exigidas por marcos como o EU AI Act, que cobra explicabilidade de modelos de alto risco.

Status no Brasil

O Brasil discute o PL 2.338 (Marco Legal da IA), com forte ênfase em transparência e direito à explicação. NLAs oferecem um caminho técnico viável para cumprir esse requisito sem expor pesos do modelo. Universidades brasileiras (USP, UFMG, UFRGS, UFPE) com grupos em ML e segurança já vinham produzindo trabalhos em interpretabilidade; é uma oportunidade clara de aplicar NLAs em modelos de menor porte (Sabiá, Maritaca, Bode), tornando-os auditáveis para uso público.

Riscos e limitações

Quatro limitações pesam. Primeira: a NLA depende do próprio modelo para verbalizar — e modelos podem mentir em texto também. Segunda: a reconstrução perfeita exige descrições longas; existe um tradeoff entre legibilidade e fidelidade. Terceira: o método foi validado em modelos da família Claude; transferir para arquiteturas muito diferentes (MoE esparsos, modelos de difusão) ainda é tema aberto. Quarta, e mais sutil: ter uma “voz interna” legível pode criar a ilusão de que entendemos o modelo, quando o que enxergamos é só uma camada de tradução.

Cenário para os próximos 12 meses

Espere ver três desdobramentos: (1) outros laboratórios — DeepMind, OpenAI, AI2 — publicando variantes próprias, possivelmente com nomes diferentes; (2) ferramentas de auditoria comercial usando NLA como camada de inspeção em modelos de produção; (3) políticas internas de empresas exigindo NLA ou equivalente para qualquer modelo que tome decisões automáticas com impacto humano (crédito, RH, saúde). Para a comunidade acadêmica brasileira, fica a chance de liderar trabalhos em interpretabilidade em português — área subexplorada e com demanda concreta.

Conclusão prática

Para quem desenvolve produtos baseados em LLMs, a recomendação é começar a registrar não apenas inputs e outputs nos logs, mas também as decisões intermediárias que o modelo expõe (chain-of-thought, tool calls, reasoning traces). Esse hábito prepara o time para integrar técnicas como NLA quando ferramentas open source amadurecerem — e para responder, com evidência, perguntas regulatórias que virão.

Fonte original: Anthropic Research — Natural Language Autoencoders.

Ninja

Na cena de cybersecurity a mais de 25 anos, Ninja trabalha como evangelizador de segurança da informação no Brasil. Preocupado com a conscientização de segurança cibernética, a ideia inicial é conseguir expor um pouco para o publico Brasileiro do que acontece no mundo.

Recent Posts

Google mede contextualidade quântica em até 105 qubits no Willow

Publicado na Science, o experimento ganha o jogo do quadrado mágico em 98,30% das rodadas,…

10 horas ago

BlockJack desvia o cache KV do vLLM entre inquilinos diferentes

Preprint de seis universidades mostra que corromper um único registro da tabela de blocos faz…

10 horas ago

SCKit abusa do ScreenConnect para atacar sessões de técnicos

A Microsoft confirmou a campanha relatada pela ConnectWise e detalhou um kit que inverte o…

10 horas ago

F5 libera hotfixes de emergência para cinco falhas críticas no BIG-IP

Os avisos publicados em 18 de novembro atribuem CVSS 4.0 de 9,3 a cinco estouros…

10 horas ago

Ataque recupera texto exato no aprendizado federado

Preprint do BITS Pilani Goa mostra um cliente comum reconstruindo frases exatas de outros participantes…

1 dia ago

Agile Deliberation: Google treina IA em conceitos subjetivos

Framework do Google Research trata a construção de classificadores subjetivos como conversa iterativa: delimita subconceitos…

1 dia ago