Berkeley troca resumo por estados de crença na memória de agentes

Agentes de linguagem que colaboram com pessoas ao longo de centenas ou milhares de passos esbarram sempre no mesmo limite: a janela de contexto. A saída convencional é a sumarização recursiva — pedir ao modelo que resuma periodicamente o histórico e siga trabalhando a partir do resumo. Funciona, mas cobra caro em desempenho.

Um trabalho do Berkeley Artificial Intelligence Research (BAIR), divulgado em 26 de julho de 2026, propõe uma alternativa: em vez de resumir livremente, o agente mantém estados de crença em linguagem natural, atualizados a cada nova observação — e esses estados são supervisionados explicitamente durante o treinamento. O framework se chama ABBEL.

O artigo é assinado por Aly Lidayan, Jakob Bjorner, Satvik Golechha, Kartik Goyal e Alane Suhr, com Lidayan e Bjorner como coautores de contribuição igual. A publicação técnica está no arXiv sob o identificador 2512.20111, na categoria cs.CL.

Contexto: o custo escondido da sumarização recursiva

Para assistir alguém em tarefas complexas — desenvolvimento de software é o exemplo central do trabalho — o modelo precisa interagir por muitos turnos. Manter todo o histórico em contexto é impraticável, e a heurística usual é mandar o próprio modelo se autorresumir.

O problema é que fazer o modelo resumir enquanto executa a tarefa aumenta a complexidade do problema de aprendizado. Em condições normais, isso se resolveria com mais dados de treino. Mas, segundo os autores, a degradação observada em cenários interativos reais vem de outro lugar: a dificuldade de construir e usar simuladores humanos capazes de gerar ambientes de treinamento de qualidade. Em domínios de assistência a pessoas, dados bons são escassos — e o que se consegue coletar são trajetórias multiturno limitadas e ruidosas.

Os pesquisadores demonstram o efeito em um jogo chamado Combination Lock, no estilo Wordle, com até 16 tentativas. Ao longo do ajuste fino por aprendizado por reforço, tanto a política com contexto completo quanto a política baseada em resumo melhoram — mas a segunda nunca fecha a diferença em relação à primeira. O resumo, sozinho, não converge para o desempenho do contexto integral.

A proposta: crenças como gargalo de informação

O ABBEL parte de uma ideia emprestada da estimação bayesiana recursiva. Em vez de um resumo genérico, o modelo mantém um estado de crença: uma descrição em linguagem natural do que ele sabe no momento. A cada rodada, o agente atualiza a crença a partir da última observação e, em seguida, escolhe a ação condicionado apenas à crença posterior atual — não ao histórico completo.

É isso que os autores chamam de gargalo: a crença é o único canal por onde a informação do passado chega à decisão presente. Isso força o conteúdo relevante a ser explicitado em texto e torna o estado interno do agente inspecionável.

Graduação de crenças

A segunda peça do método é o que os autores chamam de belief grading. Inspirado no funcionamento de um autoencoder, o mecanismo trata a atualização de crença como uma tarefa auxiliar de aprendizado por reforço: o modelo codifica crença anterior, ação e observação em uma crença posterior, e é recompensado conforme a qualidade com que informações selecionadas do histórico podem ser reconstruídas a partir dessa crença.

Na prática, isso separa o problema. Em vez de esperar que o modelo aprenda simultaneamente a agir bem e a resumir bem, o treinamento supervisiona diretamente o conteúdo do resumo — que agora tem forma definida e critério de avaliação próprio.

Resultados em três ambientes

Codificação colaborativa

O ambiente principal é o CollabBench, herdado do trabalho Sweet-RL (Zhou et al., 2025), no qual o agente faz perguntas de esclarecimento e depois submete uma função avaliada contra testes unitários ocultos. Os resultados:

A leitura correta desses números exige cuidado. O ABBEL não supera o contexto completo — reduz a distância em cerca de metade. O que ele entrega é uma combinação diferente de custos: desempenho próximo usando menos da metade do pico de memória de contexto, e treinado em metade dos passos em relação à variante sem graduação de crenças.

Para um sistema em produção, essa é uma troca frequentemente favorável. Contexto é caro, cresce de forma superlinear em custo de atenção e limita quantas sessões simultâneas cabem em uma infraestrutura. Recuperar metade da perda de desempenho gastando menos da metade da memória é um resultado de engenharia relevante, mesmo sem bater o teto teórico.

Perguntas e respostas com múltiplos objetivos

No terceiro ambiente, adaptado do trabalho MEM1 (Zhang et al., 2025), os autores testam uma penalidade sobre o tamanho de pico da crença. O resultado é o ponto mais interessante para quem já tentou controlar verbosidade de modelos: penalizar o comprimento da crença reduz significativamente o uso de memória com degradação mínima de desempenho — ao contrário do que costuma acontecer quando se penaliza o comprimento do raciocínio.

A explicação proposta é que separar a crença do raciocínio permite comprimir uma sem estrangular o outro. Se o modelo precisa raciocinar longamente para acertar, penalizar o raciocínio prejudica o resultado; mas o registro do que ele sabe pode ser enxuto sem perda equivalente.

Aplicações, riscos e limitações

Além da economia de contexto, o desenho abre possibilidades que os autores listam explicitamente: recompensar ações pelo efeito que produzem no estado de crença, para guiar exploração; transmitir estados de crença entre agentes como forma de comunicação estruturada; e permitir que usuários editem diretamente as memórias sobre as quais o agente decide.

Essa última possibilidade merece destaque em um contexto de governança. Um agente cujo estado interno é texto legível e editável é auditável de uma forma que um agente com memória vetorial opaca não é. Se o agente age com base em uma crença errada, é possível ler qual é, corrigi-la e observar a mudança de comportamento. Isso não resolve problemas de alinhamento, mas move parte da caixa-preta para fora dela.

As limitações reconhecidas pelos próprios autores são relevantes. Nem toda informação se representa bem em texto — a aparência de uma pessoa é o exemplo que eles dão. Um sistema em aprendizado contínuo precisará capturar esse tipo de conteúdo por outros meios. E, para acumular habilidades ao longo de milhares de conversas ou partidas, o armazenamento teria de ser muito mais comprimido do que descrições em linguagem natural permitem.

Há ainda limitações de escopo que convém registrar: os três ambientes avaliados são estruturados e com métrica automática clara — geração de código com testes ocultos, um jogo de adivinhação e perguntas sobre documentos. Não há evidência sobre tarefas abertas e de longo prazo em ambientes reais. O trabalho é uma pré-publicação e, até a data desta matéria, não passou por revisão por pares. Os intervalos reportados nas tabelas são estreitos, mas a comparação entre configurações se dá dentro de um mesmo protocolo experimental, e não contra sistemas comerciais.

Conclusão

O ABBEL não é uma solução definitiva para memória de agentes, e os autores não a apresentam como tal. O que ele oferece é uma reformulação útil de um problema conhecido: em vez de tratar o resumo como efeito colateral da execução da tarefa, tratá-lo como objeto de treino com forma e critério próprios.

Para times que constroem assistentes de longa duração — em suporte técnico, em desenvolvimento de software, em operações — a mensagem prática é que o formato da memória importa tanto quanto o tamanho dela, e que memória explícita e legível traz benefícios que vão além da economia de tokens. O que observar a seguir: se estados de crença em linguagem natural aparecem em sistemas de produção, e se o mecanismo de penalidade de tamanho se confirma como forma de controlar consumo de contexto sem os custos habituais de comprimir o raciocínio.

Fontes e referências

• BAIR — Teaching LLMs to Update Beliefs for Efficient Long-Horizon Interaction, Berkeley Artificial Intelligence Research Blog (26 de julho de 2026)
• arXiv — ABBEL: Learning Natural-Language Belief States for Memory-Efficient Interaction, Lidayan, Bjorner, Golechha, Goyal e Suhr, arXiv:2512.20111 [cs.CL]
• Zhou et al. (2025) — Sweet-RL, origem do ambiente CollabBench usado na avaliação de codificação colaborativa
• Zhang et al. (2025) — MEM1, trabalho de referência em sumarização recursiva otimizada de ponta a ponta, usado como comparação no ambiente de múltiplos objetivos