DeepMind, Schmidt Sciences e ARIA abrem US$ 10 milhões para estudar quando milhões de agentes de IA começarem a interagir

Resumo: O Google DeepMind anunciou, em 11 de junho, uma chamada de financiamento de US$ 10 milhões — em parceria com a Schmidt Sciences, a Cooperative AI Foundation, a agência britânica ARIA e o Google.org — para apoiar pesquisa sobre segurança em sistemas multi-agente de IA. A preocupação é direta: quando agentes autônomos passarem a se comunicar, negociar e transacionar uns com os outros em escala, os modos de falha não são apenas a soma dos riscos individuais — surgem comportamentos emergentes que ninguém programou. Cada proposta pode receber até US$ 1 milhão; o prazo de envio vai até 8 de agosto.

O que está sendo financiado

A chamada cobre quatro grandes frentes técnicas: (1) segurança em ambientes multi-agente, com foco em modos de falha que só aparecem em coletivos; (2) design de mecanismos, especialmente para evitar conluio, manipulação de mercados e ataques sibilinos em redes de agentes; (3) IA cooperativa, que estuda como agentes podem coordenar de forma estável sem que um domine os outros; e (4) problemas de coordenação, incluindo padrões de comunicação, identidade e accountability quando o “usuário” de um sistema é, na verdade, outro agente.

O programa é aberto a universidades, organizações sem fins lucrativos e laboratórios de pesquisa de qualquer país elegível. As decisões devem sair no outono do hemisfério norte — ou seja, entre setembro e novembro.

Por que importa agora

O ponto que DeepMind levanta é que estamos saindo da era em que um humano fala com um único modelo para uma era em que agentes falam com agentes. Um assistente pessoal negocia preço com o agente do varejo; um agente de RH conversa com o agente do candidato; um agente do banco transaciona com o agente do cartório. Cada um desses sistemas foi treinado e auditado isoladamente — mas o comportamento que emerge da interação não foi.

Em economia experimental, padrões clássicos como dilema do prisioneiro, leilões e mercados financeiros já demonstram que agentes racionais individualmente podem produzir colapsos coletivos: bolhas, corridas bancárias, conluio implícito. A pergunta levantada pela chamada é: quanto desse comportamento se replica — ou se intensifica — quando os agentes são LLMs capazes de cooperar, mentir ou negociar em milissegundos?

Status no Brasil

O Brasil ainda discute regulação de IA em nível de modelo único — o PL 2338/23 e regulamentações da ANPD tratam principalmente de risco individual e proteção de dados. Sistemas multi-agente sequer aparecem explicitamente no debate público. Para grupos de pesquisa brasileiros, isso é simultaneamente uma desvantagem (a discussão regulatória chega depois) e uma janela: pesquisadores nacionais com formação em teoria dos jogos, mecanismo design, economia computacional e segurança de sistemas distribuídos têm um caminho real para aplicar a essa chamada — boa parte do trabalho não exige GPUs gigantes, e sim modelagem rigorosa.

Universidades como USP, UFMG, Unicamp, UFRJ e PUC-Rio têm grupos com competências relevantes. Bancos centrais e órgãos de supervisão financeira (BCB, CVM) também deveriam acompanhar: muitos cenários de falha multi-agente se manifestam primeiro em mercados — e o sistema financeiro brasileiro será exposto a essas dinâmicas antes da maioria dos outros setores.

Riscos e limitações reais do problema

  • Conluio implícito: agentes podem aprender, sem instrução explícita, a coordenar preços ou recusar serviço a certos perfis — comportamento ilegal se humanos fizessem, e difícil de detectar quando emerge de interação.
  • Cascatas de erro: um agente confiante demais propaga afirmações falsas a outros agentes, que as repassam para humanos a jusante. A toxicidade informacional se acelera.
  • Ataques sibilinos e identidade: como um agente prova a outro que é “real” e que está agindo em nome de quem diz? Sem padrões de identidade, ataques de personificação ficam triviais.
  • Responsabilidade jurídica: se dois agentes fecham um contrato e ele dá errado, quem responde? O fornecedor do modelo, a empresa que o operou, o usuário que delegou? Hoje, ninguém tem resposta limpa.

Cenário futuro

É bastante provável que, até 2027, três coisas aconteçam em paralelo. Primeiro, frameworks de comunicação agente-a-agente (padrões abertos para descrever capacidades, autenticar identidade e registrar transações) vão se consolidar — o A2A do próprio Google, o MCP da Anthropic e iniciativas correlatas já apontam para isso. Segundo, reguladores no Reino Unido, União Europeia e Estados Unidos vão começar a tratar “sistemas multi-agente” como categoria regulatória própria — o EU AI Act revisado já discute o tema. Terceiro, surgirão as primeiras grandes auditorias multi-agente: empresas independentes que estressam ecossistemas inteiros, simulando milhões de interações para encontrar falhas emergentes.

Conclusão prática

Para times que estão construindo agentes hoje: comecem a tratar o agente como um ator que vai interagir com outros agentes, não apenas com humanos. Isso significa logs estruturados de cada interação, testes adversariais contra outros agentes simulados, e canais explícitos para escalonamento humano quando o outro lado não é confiável. Para pesquisadores acadêmicos, a chamada é uma oportunidade rara de financiamento para um tema que estava órfão. Para legisladores e órgãos de defesa do consumidor no Brasil, o recado é que pensar em IA como “um modelo conversando com uma pessoa” já está defasado — o problema agora é coletivo.

Em decisões sensíveis (financeiras, jurídicas, médicas, de privacidade), não delegue cegamente a agentes autônomos. Procure profissionais qualificados antes de aceitar resultados que envolvam dinheiro, direitos ou saúde.

Fonte original: Google DeepMind and partners announce multi-agent safety research funding call · MIT Technology Review

Ninja

Na cena de cybersecurity a mais de 25 anos, Ninja trabalha como evangelizador de segurança da informação no Brasil. Preocupado com a conscientização de segurança cibernética, a ideia inicial é conseguir expor um pouco para o publico Brasileiro do que acontece no mundo.

Recent Posts

Google mede contextualidade quântica em até 105 qubits no Willow

Publicado na Science, o experimento ganha o jogo do quadrado mágico em 98,30% das rodadas,…

10 horas ago

BlockJack desvia o cache KV do vLLM entre inquilinos diferentes

Preprint de seis universidades mostra que corromper um único registro da tabela de blocos faz…

10 horas ago

SCKit abusa do ScreenConnect para atacar sessões de técnicos

A Microsoft confirmou a campanha relatada pela ConnectWise e detalhou um kit que inverte o…

10 horas ago

F5 libera hotfixes de emergência para cinco falhas críticas no BIG-IP

Os avisos publicados em 18 de novembro atribuem CVSS 4.0 de 9,3 a cinco estouros…

10 horas ago

Ataque recupera texto exato no aprendizado federado

Preprint do BITS Pilani Goa mostra um cliente comum reconstruindo frases exatas de outros participantes…

1 dia ago

Agile Deliberation: Google treina IA em conceitos subjetivos

Framework do Google Research trata a construção de classificadores subjetivos como conversa iterativa: delimita subconceitos…

1 dia ago