Um preprint publicado no arXiv em 12 de novembro de 2026 testa uma premissa que sustenta boa parte das defesas atuais contra injeção de prompt e conclui que ela não se sustenta em modelos pequenos. As defesas mais fortes da literatura pedem ao próprio modelo do agente que escreva o artefato de segurança — um programa, uma política de privilégios, um grafo de dependências ou uma lista de restrições — que depois será aplicado por código. Em 15 modelos de pesos abertos, os artefatos que esses modelos escrevem falham.
O trabalho é assinado por Zimo Xu e Hideki Nakayama, da Universidade de Tóquio, e Wenzhuo Liu, do Instituto de Automação da Academia Chinesa de Ciências (CASIA), sob identificador arXiv 2611.17115 e licença CC BY 4.0. Além do diagnóstico, os autores propõem o CapLite, um desenho que não pede nenhum artefato ao modelo: a política é derivada automaticamente dos esquemas das ferramentas, e a decisão sobre o que pode ser executado fica em código determinístico.
O resultado medido no benchmark AgentDojo é expressivo e merece ser lido com a devida qualificação: nenhum ataque teve sucesso em 13.935 episódios atacados, com custo de tokens inferior ao de todas as outras defesas testadas — e também inferior ao do agente sem defesa alguma. O preço é pago em utilidade, e os próprios autores declaram onde.
Injeção de prompt é a categoria de risco listada como LLM01 no Top 10 da OWASP para aplicações com modelos de linguagem. A variante que interessa aqui é a indireta: um agente que usa ferramentas lê e-mails, arquivos e páginas web que qualquer pessoa pode escrever, e uma instrução escondida nesse conteúdo pode redirecionar o que o agente faz. O ataque não precisa quebrar nada; basta que o modelo confunda dado com ordem. O enquadramento mais amplo desse problema, na visão do Google, foi tratado aqui em Privacidade de agentes de IA exige contexto, diz Google.
A linha de defesa com garantias mais fortes tira a decisão do contexto do modelo e a entrega ao código. Quatro trabalhos representam essa linha e foram os comparados no estudo: o CaMeL, do Google DeepMind, executa um programa em um interpretador que rastreia a origem de cada valor; o Progent verifica cada chamada contra uma política de privilégios; o IPIGuard executa um grafo de dependências de ferramentas planejado antes de qualquer resultado ser lido; e o DRIFT valida chamadas contra uma trajetória planejada e uma lista de verificação de parâmetros.
O detalhe que o preprint explora é que, nos quatro casos, quem escreve o artefato aplicado é o modelo do próprio agente. A segurança é exatamente tão sólida quanto esse artefato. E todas as quatro defesas foram projetadas e avaliadas principalmente com modelos grandes hospedados em nuvem — enquanto modelos pequenos de pesos abertos se tornam cada vez mais comuns como base de agentes rodando localmente, em dispositivos ou em escala.
Os autores mediram as quatro defesas em 15 modelos de pesos abertos, 13 deles entre 1,7 e 12 bilhões de parâmetros, mais dois modelos maiores como referência.
Os números do diagnóstico:
| Defesa | Resultado com artefato escrito pelo modelo |
|---|---|
| Progent (política de privilégios) | admite ataques em 14 dos 15 modelos |
| IPIGuard (grafo de dependências) | admite ataques em 13 dos 15 modelos |
| DRIFT (trajetória e checklist) | admite ataques em 11 dos 15 modelos |
| CaMeL (programa em interpretador) | programa não roda em até 68% dos episódios |
Há uma distinção útil nesses dois tipos de falha. Quando o artefato que decide o que é permitido é malformado, ele falha em aberto: a política escrita pelo modelo simplesmente deixa passar. Quando o artefato é um programa que não roda, como no CaMeL, a falha é de disponibilidade — o agente não conclui a tarefa, mas também não executa o ataque.
O achado mais contraintuitivo do estudo é que modelo maior não escreve artefato melhor. Dentro das famílias Qwen3 (1.7B a 32B) e Gemma-4 (E2B a 12B), a taxa de sucesso dos ataques sob Progent e IPIGuard cresce de forma monotônica com o tamanho do modelo, acompanhando a do agente sem defesa: sob Progent, vai de 3,0% a 14,2% na família Qwen3 e de 0% a 12,7% na Gemma-4. A leitura dos autores é direta — um modelo maior é mais fácil de injetar, e as políticas e grafos que ele escreve não absorvem esse risco adicional. Entre os 15 modelos, nenhuma taxa de falha de artefato mostrou tendência estatisticamente significativa com a capacidade do modelo.
A proposta separa de forma rígida o caminho da instrução confiável do caminho da observação não confiável. No modelo de ameaça adotado, são confiáveis o usuário, a requisição que inicia o episódio, as ferramentas e sua documentação; os resultados das ferramentas não são — o atacante controla texto arbitrário dentro dos dados que as ferramentas de leitura devolvem, como e-mails, arquivos, páginas, avaliações ou descrições de transações.
Sobre isso, o desenho combina quatro ideias:
get, search, list); é de escrita quando qualquer um deles é verbo de efeito (send, create, pay); e fica não classificada caso contrário — e o que não é classificado é negado.Dessas regras decorre a propriedade que os autores chamam de integridade de escrita: texto injetado não consegue acrescentar uma escrita, e nenhuma escrita chega a destinatário, valor, objeto ou destino que o usuário não tenha declarado. A garantia vale independentemente de quais instruções o modelo decida seguir — ou seja, ataques adaptativos que contornam defesas no nível do modelo não a afetam.
No AgentDojo v1.2.2, com suas quatro suítes (Workspace, Slack, Banking e Travel), 97 tarefas de usuário e 949 pares de tarefa com injeção, o CapLite não registrou ataque bem-sucedido em nenhum dos 15 modelos: 0 de 13.935 episódios atacados. Para comparação, o agente sem defesa sofreu 1.258 ataques bem-sucedidos nos 7.432 episódios do primeiro cenário; o Progent, 466; o IPIGuard, 348; o CaMeL, 3.
Em custo, a diferença é grande: 17,1 mil tokens por episódio no CapLite, contra 93,7 mil do CaMeL, 63,4 mil do Progent, 60,5 mil do IPIGuard, 28,1 mil do DRIFT e 28,0 mil do agente sem defesa. Na métrica de utilidade sob ataque por mil tokens, o CapLite alcança 1,69, contra 1,24 do DRIFT, 0,64 do Progent, 0,59 do IPIGuard e 0,29 do CaMeL.
A utilidade sob ataque do CapLite (29,0% em média) é comparável à do CaMeL (27,2%), mas aqui aparece o custo real da abordagem: ela fica 21 pontos abaixo do agente sem defesa, que atinge 50,2%. Em dois modelos — Gemma-4-E4B e Gemma-4-12B — o CapLite fica significativamente abaixo do CaMeL (12,2 e 13,5 pontos), justamente nos modelos que escrevem programas CaMeL de forma confiável e conseguem iterar sobre registros e ramificar conforme o conteúdo. As defesas mais permissivas entregam mais utilidade — DRIFT, IPIGuard e Progent chegam a 34,9%, 35,7% e 40,6% — ao preço de admitir 214, 435 e 676 ataques, com custo de tokens de 1,6 a 3,7 vezes o do CapLite.
Os autores são explícitos nos limites. Todos os resultados vêm de um único benchmark, o AgentDojo. A perda de 21 pontos de utilidade em relação ao agente sem defesa é significativa e vem em boa parte do planejamento do modelo pequeno. Valores de autoridade que o usuário não declarou exigem confirmação — o que, num fluxo real, significa interromper o usuário.
Há também um limite de escopo que vale destacar: a garantia é sobre escritas. Dos 949 pares do benchmark, 20 correspondem a um objetivo de injeção que pede apenas uma frase na resposta final, sem nenhuma chamada de ferramenta. Esse caso fica fora da integridade de escrita, e o CapLite, por construção, não o defende. Em termos práticos, um agente protegido por esse desenho continua podendo ser induzido a dizer algo que o atacante queira; o que ele não fará é executar uma ação com destinatário ou valor que o usuário não pediu.
Por fim, não localizamos repositório público de código ou dados associado ao preprint — o que, por ora, limita a reprodução independente dos números. Trata-se ainda de uma versão v1, sem revisão por pares concluída.
A contribuição mais durável deste trabalho talvez não seja o CapLite em si, mas o alerta de projeto que ele documenta: pedir ao modelo que escreva as próprias regras de segurança transfere para o componente não confiável exatamente a decisão que se queria proteger — e, segundo as medições, isso piora conforme o modelo cresce. Para quem avalia agentes rodando sobre modelos pequenos e locais, cenário cada vez mais comum em implantações sensíveis a custo, latência ou privacidade, a conclusão prática é que importar defesas calibradas em modelos grandes hospedados pode dar uma falsa sensação de cobertura.
O que vale observar a seguir é se a propriedade de integridade de escrita se sustenta fora do AgentDojo, em conjuntos de ferramentas reais com esquemas menos disciplinados — a classificação por verbos é simples e, por decisão de projeto, nega o que não reconhece — e se a comunidade passa a tratar separação de caminhos entre instrução e dado como requisito de arquitetura, e não como camada opcional de proteção.
A plataforma do Google Research reúne dados de milhares de idiomas sobre falantes, sistemas de…
Pesquisadores injetaram erros conhecidos em 30 artigos reais de astrofísica e de aprendizado de máquina…
A sexta edição anual do relatório da Sophos ouviu 217 líderes de TI do varejo…
Horas depois da queda de quase 24 horas do Exchange Online, campanhas de e-mail passaram…
Uma chave de acesso exposta em um fornecedor de inferência abriu caminho para o roubo…
O Google abriu para uso externo o sistema que coordena dezenas de agentes em paralelo…