SkillProx audita e poda skills de agentes de IA sem treinar pesos
Pesquisadores de Hong Kong propõem medir a utilidade de cada instrução acumulada em uma skill e remover o que não contribui para o resultado. O método ganhou até 17,8 pontos percentuais sobre uma skill escrita por humanos.
Ilustração editorial original — Plugged Ninja
Um dos formatos mais usados hoje para especializar agentes de IA sem tocar nos pesos do modelo são as chamadas skills: arquivos de texto leves e reutilizáveis, carregados no contexto do agente, que descrevem como executar uma tarefa recorrente. É um mecanismo barato e transparente — mas que tende a inchar com o tempo, acumulando instruções que já não ajudam e algumas que atrapalham.
Um artigo publicado em 7 de agosto de 2026 no arXiv propõe um método para lidar com esse problema. O SkillProx, desenvolvido por pesquisadores ligados majoritariamente à Universidade de Ciência e Tecnologia de Hong Kong (HKUST), trata a skill como um artefato que pode ser otimizado — e não apenas editado — usando um esquema inspirado em descida de gradiente proximal, adaptado para operar sobre texto.
O trabalho é assinado por Mingxuan Zheng, Yujin Zhou, Chuxue Cao, Boqin Yin, Yuyao Zhang, Jiapeng Sun, Shuaishuai Gong, Sirui Han e Yike Guo, e está registrado sob o identificador arXiv:2608.07449 (cs.AI). São 23 páginas, com quatro figuras e apêndices extensos de metodologia.
Contexto: por que skills degradam com o uso
Métodos recentes de autoevolução de skills seguem uma receita comum: o agente executa a tarefa, o sistema diagnostica as falhas, e uma edição no texto da skill é proposta com base na trajetória observada. Repete-se o ciclo. O problema, segundo os autores, é que essa arquitetura tem duas lacunas.
A primeira é a ausência de retorno entre diagnóstico e resultado. Uma edição pode parecer perfeitamente sensata quando lida isoladamente e, ainda assim, piorar o desempenho depois de incorporada. O artigo apresenta evidência empírica disso: em dez execuções de treinamento com o modelo Qwen3.6-27B, a evolução de skill em malha aberta atingiu acurácia média de 50,30 (±2,50), enquanto uma variante com controle por retorno chegou a 51,40 (±1,51) — ganho modesto na média, mas com variância bem menor, o que sugere um processo mais estável.
A segunda lacuna é o tratamento da remoção de conteúdo. Nos frameworks existentes, apagar um trecho é apenas mais um tipo de edição. Os autores argumentam que a remoção deveria ser um mecanismo dedicado à consolidação do conhecimento acumulado, com critério próprio — e não uma operação genérica misturada às demais.
Como o método funciona
O SkillProx organiza o processo em duas etapas, num arranjo que os autores chamam de forward–backward, por analogia com métodos de otimização proximal.
Etapa direta: evolução diagnóstica em malha fechada
Em vez de aplicar uma edição e seguir adiante, o sistema reexecuta as edições motivadas pelo diagnóstico sobre o mesmo lote de tarefas, mede o efeito real e reverte as regressões. Os resultados medidos alimentam os diagnósticos seguintes, de modo que o processo aprende quais direções de edição funcionaram e quais não funcionaram.
É uma mudança conceitual simples com consequência prática relevante: a qualidade de uma atualização textual deixa de ser julgada pela sua plausibilidade semântica e passa a ser julgada pelo que acontece quando ela é executada.
Etapa reversa: auditoria de utilidade e encolhimento
A skill resultante é decomposta em unidades auditáveis de conhecimento. A contribuição de cada unidade é estimada por uma auditoria de utilidade do tipo leave-one-out com o modelo congelado — ou seja, mede-se o desempenho removendo uma unidade por vez, sem alterar o modelo. Com base nessa estimativa, cada unidade pode ser consolidada, rebaixada ou removida, sempre passando por um portão de validação.
Duas propriedades de implementação merecem registro. O conjunto de candidatos é finito e cada candidato é processado no máximo uma vez, o que garante que o processo de encolhimento termina. E toda edição aceita precisa reduzir estritamente a complexidade do texto — edições rejeitadas deixam a skill ativa intacta.
Resultados e o que eles significam
A avaliação usa um cenário dentro da distribuição de treino (IID) e dois fora dela (OOD). O benchmark IID é o SpreadsheetBench Verified, subconjunto validado por humanos. Os OOD são o WikiTableQuestions e o HiTab. Os modelos-base testados foram Qwen3.5-4B, Qwen3.5-27B e Qwen3.6-27B.
Partindo de uma skill escrita por humanos, o SkillProx elevou o desempenho em todos os modelos testados:
| Modelo-base | Skill humana | Com SkillProx | Ganho |
|---|---|---|---|
| Qwen3.5-4B | 20,3 | 21,0 | +0,7 pp |
| Qwen3.5-27B | 38,3 | 51,3 | +13,0 pp |
| Qwen3.6-27B | 36,7 | 54,5 | +17,8 pp |
Contra a linha de base mais forte entre os métodos baseados em gradiente textual, o ganho médio relatado é de 3,0 pontos percentuais. O número que talvez seja mais interessante, porém, está na generalização: embora as skills tenham sido otimizadas apenas no SpreadsheetBench, elas transferiram para benchmarks com formatos e espaços de saída diferentes. No WikiTableQuestions, o SkillProx atingiu 78,5 no modelo de 4B (13,5 pp acima da condição sem skill) e 86,8 no Qwen3.5-27B. No HiTab, obteve os melhores resultados no 4B (69,2) e no Qwen3.6-27B (80,0).
O contraste com o método SkillOpt é o achado mais instrutivo do artigo. Esse concorrente sobreajusta ao estilo do domínio de treino e colapsa fora dele — 26,0 no WikiTQ e 16,0 no HiTab com o modelo de 4B, contra 78,5 e 69,2 do SkillProx. Ou seja: uma skill que parece excelente no benchmark de origem pode se tornar ativamente prejudicial em tarefas ligeiramente diferentes. É exatamente o cenário que uma organização enfrenta ao reaproveitar skills entre times.
Aplicações práticas, limitações e ressalvas
Para quem opera agentes em produção, o valor prático do trabalho está menos no número final e mais no princípio: instruções acumuladas precisam ser auditadas, não só acrescentadas. A auditoria por remoção individual, com validação, é um procedimento que times podem adaptar mesmo sem implementar o framework completo — basta medir o que acontece ao retirar cada bloco de instrução de um prompt de sistema ou arquivo de skill.
Há também um efeito colateral desejável em contexto corporativo: skills menores consomem menos tokens de contexto, o que reduz custo por chamada e libera espaço para o histórico da tarefa. Os autores estudam esse compromisso explicitamente, varrendo o limiar de candidatura em quatro valores e mapeando a fronteira entre compressão e desempenho.
As limitações são declaradas com honestidade no próprio artigo, e vale reproduzi-las. O portão de validação oferece apenas uma restrição empírica por edição sobre o desempenho registrado em validação — os autores afirmam explicitamente que isso não implica monotonicidade no conjunto de teste nem convergência no sentido clássico da descida de gradiente proximal. A analogia com otimização matemática é inspiracional, não formal; a implementação não tem um parâmetro de regularização explícito, e os autores pedem que a curva experimental não seja lida como um caminho de regularização exato.
Outras ressalvas de escopo: os experimentos cobrem tarefas de manipulação de planilhas e de perguntas sobre tabelas — domínios estruturados, com avaliação automática confiável. Não há evidência no artigo sobre desempenho em tarefas abertas, criativas ou de escrita longa. Todos os modelos-base testados são da família Qwen; a generalização para outras arquiteturas permanece em aberto. E o ganho no modelo de 4 bilhões de parâmetros foi de apenas 0,7 pp no benchmark IID, o que sugere que o método depende de um modelo com capacidade suficiente para aproveitar instruções refinadas.
Por fim, trata-se de uma pré-publicação (versão v1) que, até a data desta matéria, não passou por revisão por pares. Os resultados devem ser lidos como reportados pelos autores.
Conclusão
O SkillProx aborda um problema que tende a ficar mais visível conforme agentes de IA passam de protótipos a sistemas em operação contínua: bases de conhecimento textual que crescem indefinidamente, sem mecanismo de poda, acumulando instruções cuja utilidade ninguém mediu. A proposta de tratar remoção como operação de primeira classe, com auditoria de utilidade e validação, é conceitualmente sólida e independente do framework específico.
O que observar a seguir: se os resultados se sustentam em domínios menos estruturados e com outras famílias de modelos, e se práticas de auditoria de instruções acumuladas passam a fazer parte do ferramental padrão de quem mantém agentes em produção — assim como testes de regressão fazem parte do ferramental de quem mantém software.
Fontes e referências
- arXiv — SkillProx: Self-Evolving Agent Skills via Proximal Textual Gradient Descent, arXiv:2608.07449v1 [cs.AI], submetido em 7 de agosto de 2026. DOI: 10.48550/arXiv.2608.07449
- arXiv — Versão HTML completa do artigo, incluindo apêndices de metodologia, ablações e análise do compromisso entre compressão e desempenho
- SpreadsheetBench — benchmark de manipulação de planilhas citado como avaliação dentro da distribuição (Ma et al., 2024)
- WikiTableQuestions (Pasupat e Liang, 2015) e HiTab (Cheng et al., 2022) — benchmarks usados na avaliação fora da distribuição