DeepMind, Schmidt Sciences e ARIA colocam US$ 10 milhoes no maior desafio esquecido da IA: como fazer milhoes de agentes conviverem sem quebrar tudo

Resumo: A Google DeepMind, em parceria com Schmidt Sciences, Cooperative AI Foundation e a britânica ARIA (Advanced Research and Invention Agency), abriu uma chamada de pesquisa de US$ 10 milhões batizada de Scaling AI Safety for a Multi-Agent World. O foco é entender e mitigar riscos que surgem quando populações de agentes de IA — não um assistente isolado — passam a interagir em larga escala: colusão implícita, cascatas de erros, degeneração de linguagem, ataques a mecanismos de mercado e falhas emergentes de coordenação. Anunciado em 11 de junho, o programa distribui grants em dois tiers, de até US$ 300 mil para projetos pequenos e até US$ 1 milhão para projetos ambiciosos de 1 a 2 anos. O prazo para propostas termina em 8 de agosto de 2026 e os vencedores devem ser anunciados no outono do Hemisfério Norte. É a maior aposta pública, até aqui, num problema que a maior parte dos frameworks atuais ainda ignora.

O que está no papel — e o que está por trás dele

O texto de lançamento é explícito: os pesquisadores da DeepMind já viam, em experimentos internos, comportamentos preocupantes assim que dois ou mais agentes autônomos passavam a operar num mesmo ambiente prolongado — desde padrões de "trapaça cooperativa" em jogos até simulações econômicas em que agentes descobriam formas de subverter regras que os humanos julgavam robustas. Iason Gabriel e a equipe de segurança de agentes vinham publicando papers na área ao longo de 2025, mas faltava financiamento amplo e independente para consolidar o campo.

A chamada divide o dinheiro em duas faixas. Tier 1 financia projetos de até US$ 300 mil, com duração de 12 a 18 meses, focados em contribuições pontuais: novos benchmarks de coordenação, medições empíricas de risco, protótipos de "árbitros" entre agentes. Tier 2 banca projetos de US$ 300 mil a US$ 1 milhão, com duração de 24 meses, voltados para pesquisa teórica de fundo, mecanismos de governança e frameworks de auditoria multi-agente.

São elegíveis universidades, institutos independentes e organizações sem fins lucrativos de todo o mundo. Não há restrição por país, o que faz do programa uma oportunidade concreta para grupos brasileiros. O modelo de submissão é em duas fases: proposta curta até 8 de agosto e proposta completa por convite.

Por que multi-agente é o próximo grande problema

O ciclo de segurança de IA de 2023–2025 amadureceu em torno de dois blocos: mitigação de jailbreaks e alinhamento de assistentes únicos (RLHF, DPO, red-teaming). O que muda em 2026–2028 é a natureza da carga: agentes autônomos, ferramentas com internet e navegador, orquestradores como o watsonx Orchestrate ou LangGraph, e o próprio Model Context Protocol (MCP) fazem com que agentes conversem entre si a todo momento, muitas vezes sem supervisão humana direta.

Isso cria pelo menos quatro classes de risco, todas endereçadas na chamada. Primeiro, colusão: agentes que combinam preços, informações ou estratégias em prejuízo do usuário final. Segundo, cascatas de alucinação: um erro pequeno é lido por outro agente como fato e amplificado. Terceiro, degeneração de linguagem: agentes que otimizam para um proxy e vão perdendo capacidade de comunicar com humanos, criando "dialetos" opacos. Quarto, manipulação estratégica: agentes que descobrem meios de burlar leilões, mercados de anúncio, plataformas de reputação.

Por que importa (e o status no Brasil)

Do lado corporativo, boa parte dos projetos brasileiros de agentes ainda opera com "um agente por caso de uso" — assistente comercial aqui, agente de RH ali. Em 2026, plataformas como Amazon Bedrock AgentCore, Google Vertex AI Agent Builder e IBM watsonx Orchestrate empurram para arquiteturas multi-agente. Isso significa que, ao terminar o ano, muita empresa vai ter dezenas de agentes autônomos rodando em produção, cada um com suas próprias ferramentas e ganchos.

Do lado acadêmico, o Brasil tem núcleos fortes em teoria dos jogos, sistemas multiagente clássicos, aprendizado por reforço (COPPE/UFRJ, USP, ITA, UFMG, UFRGS) e economia computacional. É um perfil que combina bem com o Tier 1. Um consórcio nacional pode se organizar rapidamente para submeter propostas focadas em português, contexto regulatório do PL 2338 e simulações de mercados brasileiros específicos (financeiro, saúde suplementar, energia).

Riscos e limitações

Alguns cuidados são importantes. O primeiro é o mais óbvio: uma fundação privada colocando US$ 10 milhões pode direcionar a agenda de pesquisa. É preciso ler os anúncios como incentivos, não como verdade estabelecida — não porque a DeepMind é "má", mas porque ciência independente exige múltiplas fontes.

Segundo, o campo de segurança multi-agente carece de benchmarks maduros e resultados reproduzíveis. Muita pesquisa vai começar do zero, o que gera risco de over-claiming. Terceiro, existe o problema de dual use: técnicas para monitorar populações de agentes são também técnicas de vigilância que podem ser aplicadas a humanos. As propostas precisam explicitar salvaguardas.

Cenário

O anúncio conversa com movimentos que já vinham surgindo. O EU AI Act começa a punir descumprimento de GPAI em 2 de agosto, o Relatório Preliminar da ONU listou "sycophancy" como risco central e a Anthropic acaba de tornar público seu Claude Science. A chamada da DeepMind adiciona um pilar que faltava: pesquisa acadêmica pública focada em populações de agentes. Esperem, em 12 meses, uma safra inicial de benchmarks abertos, protocolos de governança inter-agente e ferramentas de red-teaming coletivo. Se der certo, isso pode virar o "GPQA da segurança multi-agente".

Conclusão prática

Para pesquisadores brasileiros, é hora de ler o documento até dia 15 de julho, formar consórcios e submeter proposta curta antes de 8 de agosto. Para gestores de risco de IA em empresas, é hora de mapear quantos agentes autônomos sua organização já opera — muitas não sabem — e de discutir política de auditoria antes que os incidentes apareçam. Para reguladores, o programa é sinal de que o problema é real e crescente. Se a governança nacional ficar restrita a "um assistente responsável por vez", chegaremos atrasados. Se conseguir olhar para populações de agentes, o Brasil pode até virar caso de estudo.

Fonte original: Google DeepMind — Investing in Multi-Agent AI Safety Research (11 de junho de 2026).