CapLite barra injeção de prompt em agentes de modelos pequenos
Pesquisadores da Universidade de Tóquio e do Instituto de Automação da Academia Chinesa de Ciências testaram quatro defesas em 15 modelos abertos e concluíram que agentes pequenos não são confiáveis para escrever suas próprias regras de segurança. A alternativa proposta deriva a política dos esquemas das ferramentas.
Um preprint publicado no arXiv em 12 de novembro de 2026 testa uma premissa que sustenta boa parte das defesas atuais contra injeção de prompt e conclui que ela não se sustenta em modelos pequenos. As defesas mais fortes da literatura pedem ao próprio modelo do agente que escreva o artefato de segurança — um programa, uma política de privilégios, um grafo de dependências ou uma lista de restrições — que depois será aplicado por código. Em 15 modelos de pesos abertos, os artefatos que esses modelos escrevem falham.
O trabalho é assinado por Zimo Xu e Hideki Nakayama, da Universidade de Tóquio, e Wenzhuo Liu, do Instituto de Automação da Academia Chinesa de Ciências (CASIA), sob identificador arXiv 2611.17115 e licença CC BY 4.0. Além do diagnóstico, os autores propõem o CapLite, um desenho que não pede nenhum artefato ao modelo: a política é derivada automaticamente dos esquemas das ferramentas, e a decisão sobre o que pode ser executado fica em código determinístico.
O resultado medido no benchmark AgentDojo é expressivo e merece ser lido com a devida qualificação: nenhum ataque teve sucesso em 13.935 episódios atacados, com custo de tokens inferior ao de todas as outras defesas testadas — e também inferior ao do agente sem defesa alguma. O preço é pago em utilidade, e os próprios autores declaram onde.
Injeção de prompt: instrução escondida em dado que o agente lê
Injeção de prompt é a categoria de risco listada como LLM01 no Top 10 da OWASP para aplicações com modelos de linguagem. A variante que interessa aqui é a indireta: um agente que usa ferramentas lê e-mails, arquivos e páginas web que qualquer pessoa pode escrever, e uma instrução escondida nesse conteúdo pode redirecionar o que o agente faz. O ataque não precisa quebrar nada; basta que o modelo confunda dado com ordem. O enquadramento mais amplo desse problema, na visão do Google, foi tratado aqui em Privacidade de agentes de IA exige contexto, diz Google.
A linha de defesa com garantias mais fortes tira a decisão do contexto do modelo e a entrega ao código. Quatro trabalhos representam essa linha e foram os comparados no estudo: o CaMeL, do Google DeepMind, executa um programa em um interpretador que rastreia a origem de cada valor; o Progent verifica cada chamada contra uma política de privilégios; o IPIGuard executa um grafo de dependências de ferramentas planejado antes de qualquer resultado ser lido; e o DRIFT valida chamadas contra uma trajetória planejada e uma lista de verificação de parâmetros.
O detalhe que o preprint explora é que, nos quatro casos, quem escreve o artefato aplicado é o modelo do próprio agente. A segurança é exatamente tão sólida quanto esse artefato. E todas as quatro defesas foram projetadas e avaliadas principalmente com modelos grandes hospedados em nuvem — enquanto modelos pequenos de pesos abertos se tornam cada vez mais comuns como base de agentes rodando localmente, em dispositivos ou em escala.
O diagnóstico: artefatos escritos pelo modelo falham em aberto
Os autores mediram as quatro defesas em 15 modelos de pesos abertos, 13 deles entre 1,7 e 12 bilhões de parâmetros, mais dois modelos maiores como referência.
Os números do diagnóstico:
| Defesa | Resultado com artefato escrito pelo modelo |
|---|---|
| Progent (política de privilégios) | admite ataques em 14 dos 15 modelos |
| IPIGuard (grafo de dependências) | admite ataques em 13 dos 15 modelos |
| DRIFT (trajetória e checklist) | admite ataques em 11 dos 15 modelos |
| CaMeL (programa em interpretador) | programa não roda em até 68% dos episódios |
Há uma distinção útil nesses dois tipos de falha. Quando o artefato que decide o que é permitido é malformado, ele falha em aberto: a política escrita pelo modelo simplesmente deixa passar. Quando o artefato é um programa que não roda, como no CaMeL, a falha é de disponibilidade — o agente não conclui a tarefa, mas também não executa o ataque.
O achado mais contraintuitivo do estudo é que modelo maior não escreve artefato melhor. Dentro das famílias Qwen3 (1.7B a 32B) e Gemma-4 (E2B a 12B), a taxa de sucesso dos ataques sob Progent e IPIGuard cresce de forma monotônica com o tamanho do modelo, acompanhando a do agente sem defesa: sob Progent, vai de 3,0% a 14,2% na família Qwen3 e de 0% a 12,7% na Gemma-4. A leitura dos autores é direta — um modelo maior é mais fácil de injetar, e as políticas e grafos que ele escreve não absorvem esse risco adicional. Entre os 15 modelos, nenhuma taxa de falha de artefato mostrou tendência estatisticamente significativa com a capacidade do modelo.
Como o CapLite funciona
A proposta separa de forma rígida o caminho da instrução confiável do caminho da observação não confiável. No modelo de ameaça adotado, são confiáveis o usuário, a requisição que inicia o episódio, as ferramentas e sua documentação; os resultados das ferramentas não são — o atacante controla texto arbitrário dentro dos dados que as ferramentas de leitura devolvem, como e-mails, arquivos, páginas, avaliações ou descrições de transações.
Sobre isso, o desenho combina quatro ideias:
- Política derivada do esquema. Em vez de pedir regras ao modelo, o código classifica as ferramentas a partir do que qualquer registro de ferramentas já expõe: nome, docstring e esquema JSON de parâmetros. Uma ferramenta é de leitura quando os primeiros verbos do nome e da documentação são verbos de leitura (
get,search,list); é de escrita quando qualquer um deles é verbo de efeito (send,create,pay); e fica não classificada caso contrário — e o que não é classificado é negado. - Campos de autoridade. Todo argumento de uma ferramenta de escrita é tratado como campo de autoridade, salvo se o esquema o marcar como texto livre, data/hora, enumeração ou booleano. Campos de autoridade são os que decidem a quem ou a que a escrita afeta: destinatários, contas, valores, canais, identificadores e destinos. Um destino como uma URL é autoridade mesmo em ferramenta de leitura, porque buscar uma URL escolhida pelo atacante já é um efeito.
- Escritas comprometidas antes da leitura. O componente que planeja vê apenas a requisição do usuário e os esquemas das ferramentas, e fixa quais chamadas de escrita serão feitas — com marcadores para valores a descobrir — antes de qualquer resultado de ferramenta ser lido.
- Mediador determinístico. Código, não modelo, admite uma escrita somente se ela consta do plano e se todo argumento de autoridade estiver no conjunto fundamentado na requisição do usuário. Também verifica o destino de cada leitura e pergunta ao usuário quando um valor necessário não foi informado.
Dessas regras decorre a propriedade que os autores chamam de integridade de escrita: texto injetado não consegue acrescentar uma escrita, e nenhuma escrita chega a destinatário, valor, objeto ou destino que o usuário não tenha declarado. A garantia vale independentemente de quais instruções o modelo decida seguir — ou seja, ataques adaptativos que contornam defesas no nível do modelo não a afetam.
Resultados e o custo da garantia
No AgentDojo v1.2.2, com suas quatro suítes (Workspace, Slack, Banking e Travel), 97 tarefas de usuário e 949 pares de tarefa com injeção, o CapLite não registrou ataque bem-sucedido em nenhum dos 15 modelos: 0 de 13.935 episódios atacados. Para comparação, o agente sem defesa sofreu 1.258 ataques bem-sucedidos nos 7.432 episódios do primeiro cenário; o Progent, 466; o IPIGuard, 348; o CaMeL, 3.
Em custo, a diferença é grande: 17,1 mil tokens por episódio no CapLite, contra 93,7 mil do CaMeL, 63,4 mil do Progent, 60,5 mil do IPIGuard, 28,1 mil do DRIFT e 28,0 mil do agente sem defesa. Na métrica de utilidade sob ataque por mil tokens, o CapLite alcança 1,69, contra 1,24 do DRIFT, 0,64 do Progent, 0,59 do IPIGuard e 0,29 do CaMeL.
A utilidade sob ataque do CapLite (29,0% em média) é comparável à do CaMeL (27,2%), mas aqui aparece o custo real da abordagem: ela fica 21 pontos abaixo do agente sem defesa, que atinge 50,2%. Em dois modelos — Gemma-4-E4B e Gemma-4-12B — o CapLite fica significativamente abaixo do CaMeL (12,2 e 13,5 pontos), justamente nos modelos que escrevem programas CaMeL de forma confiável e conseguem iterar sobre registros e ramificar conforme o conteúdo. As defesas mais permissivas entregam mais utilidade — DRIFT, IPIGuard e Progent chegam a 34,9%, 35,7% e 40,6% — ao preço de admitir 214, 435 e 676 ataques, com custo de tokens de 1,6 a 3,7 vezes o do CapLite.
Limitações declaradas e o que não está coberto
Os autores são explícitos nos limites. Todos os resultados vêm de um único benchmark, o AgentDojo. A perda de 21 pontos de utilidade em relação ao agente sem defesa é significativa e vem em boa parte do planejamento do modelo pequeno. Valores de autoridade que o usuário não declarou exigem confirmação — o que, num fluxo real, significa interromper o usuário.
Há também um limite de escopo que vale destacar: a garantia é sobre escritas. Dos 949 pares do benchmark, 20 correspondem a um objetivo de injeção que pede apenas uma frase na resposta final, sem nenhuma chamada de ferramenta. Esse caso fica fora da integridade de escrita, e o CapLite, por construção, não o defende. Em termos práticos, um agente protegido por esse desenho continua podendo ser induzido a dizer algo que o atacante queira; o que ele não fará é executar uma ação com destinatário ou valor que o usuário não pediu.
Por fim, não localizamos repositório público de código ou dados associado ao preprint — o que, por ora, limita a reprodução independente dos números. Trata-se ainda de uma versão v1, sem revisão por pares concluída.
Conclusão
A contribuição mais durável deste trabalho talvez não seja o CapLite em si, mas o alerta de projeto que ele documenta: pedir ao modelo que escreva as próprias regras de segurança transfere para o componente não confiável exatamente a decisão que se queria proteger — e, segundo as medições, isso piora conforme o modelo cresce. Para quem avalia agentes rodando sobre modelos pequenos e locais, cenário cada vez mais comum em implantações sensíveis a custo, latência ou privacidade, a conclusão prática é que importar defesas calibradas em modelos grandes hospedados pode dar uma falsa sensação de cobertura.
O que vale observar a seguir é se a propriedade de integridade de escrita se sustenta fora do AgentDojo, em conjuntos de ferramentas reais com esquemas menos disciplinados — a classificação por verbos é simples e, por decisão de projeto, nega o que não reconhece — e se a comunidade passa a tratar separação de caminhos entre instrução e dado como requisito de arquitetura, e não como camada opcional de proteção.
Fontes e referências
- Zimo Xu, Wenzhuo Liu, Hideki Nakayama — CapLite: Prompt-Injection Defense for Small Language Model Agents without Model-Written Security Artifacts, arXiv:2611.17115v1, 12 de novembro de 2026 (CC BY 4.0)
- Versão em HTML do preprint, texto integral consultado: arxiv.org/html/2611.17115v1
- Edoardo Debenedetti e outros — AgentDojo: A Dynamic Environment to Evaluate Prompt Injection Attacks and Defenses for LLM Agents, NeurIPS 2024
- Edoardo Debenedetti e outros — Defeating Prompt Injections by Design (CaMeL)
- OWASP Gen AI Security Project — LLM01:2025 Prompt Injection