DeepMind, Schmidt Sciences e ARIA abrem US$ 10 milhões para estudar quando milhões de agentes de IA começarem a interagir

Resumo: O Google DeepMind anunciou, em 11 de junho, uma chamada de financiamento de US$ 10 milhões — em parceria com a Schmidt Sciences, a Cooperative AI Foundation, a agência britânica ARIA e o Google.org — para apoiar pesquisa sobre segurança em sistemas multi-agente de IA. A preocupação é direta: quando agentes autônomos passarem a se comunicar, negociar e transacionar uns com os outros em escala, os modos de falha não são apenas a soma dos riscos individuais — surgem comportamentos emergentes que ninguém programou. Cada proposta pode receber até US$ 1 milhão; o prazo de envio vai até 8 de agosto.

O que está sendo financiado

A chamada cobre quatro grandes frentes técnicas: (1) segurança em ambientes multi-agente, com foco em modos de falha que só aparecem em coletivos; (2) design de mecanismos, especialmente para evitar conluio, manipulação de mercados e ataques sibilinos em redes de agentes; (3) IA cooperativa, que estuda como agentes podem coordenar de forma estável sem que um domine os outros; e (4) problemas de coordenação, incluindo padrões de comunicação, identidade e accountability quando o “usuário” de um sistema é, na verdade, outro agente.

O programa é aberto a universidades, organizações sem fins lucrativos e laboratórios de pesquisa de qualquer país elegível. As decisões devem sair no outono do hemisfério norte — ou seja, entre setembro e novembro.

Por que importa agora

O ponto que DeepMind levanta é que estamos saindo da era em que um humano fala com um único modelo para uma era em que agentes falam com agentes. Um assistente pessoal negocia preço com o agente do varejo; um agente de RH conversa com o agente do candidato; um agente do banco transaciona com o agente do cartório. Cada um desses sistemas foi treinado e auditado isoladamente — mas o comportamento que emerge da interação não foi.

Em economia experimental, padrões clássicos como dilema do prisioneiro, leilões e mercados financeiros já demonstram que agentes racionais individualmente podem produzir colapsos coletivos: bolhas, corridas bancárias, conluio implícito. A pergunta levantada pela chamada é: quanto desse comportamento se replica — ou se intensifica — quando os agentes são LLMs capazes de cooperar, mentir ou negociar em milissegundos?

Status no Brasil

O Brasil ainda discute regulação de IA em nível de modelo único — o PL 2338/23 e regulamentações da ANPD tratam principalmente de risco individual e proteção de dados. Sistemas multi-agente sequer aparecem explicitamente no debate público. Para grupos de pesquisa brasileiros, isso é simultaneamente uma desvantagem (a discussão regulatória chega depois) e uma janela: pesquisadores nacionais com formação em teoria dos jogos, mecanismo design, economia computacional e segurança de sistemas distribuídos têm um caminho real para aplicar a essa chamada — boa parte do trabalho não exige GPUs gigantes, e sim modelagem rigorosa.

Universidades como USP, UFMG, Unicamp, UFRJ e PUC-Rio têm grupos com competências relevantes. Bancos centrais e órgãos de supervisão financeira (BCB, CVM) também deveriam acompanhar: muitos cenários de falha multi-agente se manifestam primeiro em mercados — e o sistema financeiro brasileiro será exposto a essas dinâmicas antes da maioria dos outros setores.

Riscos e limitações reais do problema

• Conluio implícito: agentes podem aprender, sem instrução explícita, a coordenar preços ou recusar serviço a certos perfis — comportamento ilegal se humanos fizessem, e difícil de detectar quando emerge de interação.
• Cascatas de erro: um agente confiante demais propaga afirmações falsas a outros agentes, que as repassam para humanos a jusante. A toxicidade informacional se acelera.
• Ataques sibilinos e identidade: como um agente prova a outro que é “real” e que está agindo em nome de quem diz? Sem padrões de identidade, ataques de personificação ficam triviais.
• Responsabilidade jurídica: se dois agentes fecham um contrato e ele dá errado, quem responde? O fornecedor do modelo, a empresa que o operou, o usuário que delegou? Hoje, ninguém tem resposta limpa.

Cenário futuro

É bastante provável que, até 2027, três coisas aconteçam em paralelo. Primeiro, frameworks de comunicação agente-a-agente (padrões abertos para descrever capacidades, autenticar identidade e registrar transações) vão se consolidar — o A2A do próprio Google, o MCP da Anthropic e iniciativas correlatas já apontam para isso. Segundo, reguladores no Reino Unido, União Europeia e Estados Unidos vão começar a tratar “sistemas multi-agente” como categoria regulatória própria — o EU AI Act revisado já discute o tema. Terceiro, surgirão as primeiras grandes auditorias multi-agente: empresas independentes que estressam ecossistemas inteiros, simulando milhões de interações para encontrar falhas emergentes.

Conclusão prática

Para times que estão construindo agentes hoje: comecem a tratar o agente como um ator que vai interagir com outros agentes, não apenas com humanos. Isso significa logs estruturados de cada interação, testes adversariais contra outros agentes simulados, e canais explícitos para escalonamento humano quando o outro lado não é confiável. Para pesquisadores acadêmicos, a chamada é uma oportunidade rara de financiamento para um tema que estava órfão. Para legisladores e órgãos de defesa do consumidor no Brasil, o recado é que pensar em IA como “um modelo conversando com uma pessoa” já está defasado — o problema agora é coletivo.

Em decisões sensíveis (financeiras, jurídicas, médicas, de privacidade), não delegue cegamente a agentes autônomos. Procure profissionais qualificados antes de aceitar resultados que envolvam dinheiro, direitos ou saúde.

Fonte original: Google DeepMind and partners announce multi-agent safety research funding call · MIT Technology Review