Stanford financia pesquisa sobre IA e segurança global

O Stanford Institute for Human-Centered AI (HAI) e o Technology Policy Accelerator, da Hoover Institution, anunciaram em 10 de agosto de 2026 os três projetos selecionados em um novo programa de bolsas de pesquisa dedicado a entender como a inteligência artificial está alterando a segurança global e o equilíbrio geopolítico.

Cada projeto recebe US$ 100 mil para um ano de pesquisa. Os temas escolhidos dão uma leitura clara de quais perguntas os formuladores de política nos Estados Unidos consideram urgentes neste momento: detecção de proliferação nuclear com apoio de modelos de fundação, comparação de opinião pública sobre IA entre Estados Unidos e China e o efeito da procedência dos modelos sobre o que sistemas de agentes produzem em processos políticos.

A chamada foi aberta em abril de 2026 com uma exigência estrutural incomum: cada equipe precisava ser liderada por dois pesquisadores, um da área técnica e outro das ciências sociais ou humanidades. É uma tentativa deliberada de evitar tanto a análise de política pública que não entende a tecnologia quanto a análise técnica que ignora o contexto institucional.

Projeto 1: agentes de IA como analistas de não proliferação

O primeiro projeto é liderado por Mykel Kochenderfer, professor associado de aeronáutica e astronáutica e pesquisador sênior do HAI, e por Amy Zegart, pesquisadora sênior da Hoover Institution e do HAI.

O ponto de partida é um resultado já estabelecido: fluxos de trabalho assistidos por IA conseguem identificar sinais de proliferação nuclear em conjuntos de imagens de satélite cujo volume tornaria a análise manual proibitiva. A proposta agora é ampliar o escopo para dados multimodais — texto em vários idiomas, mídia online e imagens de satélite combinados — e projetar protocolos que ajudem analistas a detectar aquisição ilícita de material e infraestrutura nuclear não declarada.

A equipe, que reúne cientistas da computação, analistas de imagens e pesquisadores de não proliferação com fontes abertas, pretende construir agentes que funcionem como “detetives digitais”, seguindo passos definidos para vasculhar documentos em múltiplos idiomas, imagens, vídeos e fotografias de satélite em busca de mudanças que indiquem desenvolvimento nuclear em violação do direito internacional. Um dos entregáveis previstos é a criação de um benchmark padronizado para demonstrar que o sistema funciona de forma confiável.

Esse último ponto é o mais relevante do ponto de vista metodológico. Sistemas de detecção aplicados a segurança internacional operam em um regime estatístico difícil: os eventos de interesse são raríssimos, e uma taxa de falsos positivos aparentemente baixa pode produzir um volume de alarmes que inviabiliza o uso operacional — ou, pior, sustentar acusações infundadas em um domínio onde erro tem consequência diplomática. Um benchmark público e padronizado é justamente o instrumento que permite discutir esse compromisso com números em vez de impressões.

Projeto 2: por que chineses e norte-americanos pensam de forma tão diferente sobre IA

O segundo projeto é conduzido por Michael Tomz, professor de ciência política, e Diyi Yang, professora assistente de ciência da computação. A dupla vai construir o CrossInterviewer, uma ferramenta bilíngue de entrevista conduzida por IA, para comparar a opinião pública nos dois países.

A ideia técnica é interessante por si só: a ferramenta conduz entrevistas em chinês e inglês e adapta as perguntas conforme as respostas de cada participante, algo que até aqui só era possível com entrevistadores humanos, mas na escala e no custo de uma pesquisa online tradicional. Isso permite investigar o raciocínio por trás de uma opinião, não apenas registrá-la.

Três temas serão investigados:

• Atitudes gerais em relação à IA. Pesquisas consistentemente encontram entusiasmo bem maior com IA na China do que nos Estados Unidos, mas pouco se sabe sobre por que essa diferença existe. Ao sondar o raciocínio de cada respondente em suas próprias palavras, os pesquisadores esperam identificar as crenças, esperanças e preocupações que produzem a lacuna.
• Disposição de adotar IA no trabalho. Yang é coautora de um estudo recente que mapeou, em 104 ocupações nos Estados Unidos, onde os trabalhadores acolhem ou resistem a sistemas de IA. O projeto estende a análise à China, produzindo a primeira comparação sistemática entre os dois países sobre como trabalhadores enxergam a IA em seus próprios empregos.
• Modelos abertos versus fechados. Especialistas debatem os compromissos entre liberar pesos publicamente e mantê-los privados, mas quase nada se sabe sobre a preferência do público. Os pesquisadores vão investigar qual abordagem as pessoas favorecem e quais considerações movem essa preferência.

Esse último item conversa diretamente com o que vem acontecendo no mercado. A discussão sobre pesos abertos tem sido travada quase inteiramente entre laboratórios, reguladores e pesquisadores — com o público tratado como beneficiário ou vítima do resultado, mas raramente consultado.

Projeto 3: a procedência do modelo importa quando agentes escrevem política pública

O terceiro projeto é o mais direto em termos de risco concreto, e é conduzido por Jennifer Pan, professora de comunicação, e Sanmi Koyejo, professor associado de ciência da computação.

O diagnóstico que motiva o trabalho: agentes de IA já participam de várias etapas da formulação de políticas públicas. Grupos de interesse podem usá-los para gerar comentários públicos em escala, e as agências governamentais que recebem esses comentários podem usar agentes para resumir grandes volumes de submissões antes que um humano tome a decisão. Essas ferramentas raramente operam como um modelo isolado — funcionam em cadeias de várias etapas, onde agentes leem e constroem sobre as saídas uns dos outros.

O problema é que esses agentes são construídos sobre modelos desenvolvidos em países diferentes, com vieses embutidos distintos. Auditorias de modelo único já documentaram que modelos desenvolvidos sob regimes regulatórios diferentes tratam conteúdo politicamente sensível de maneira diferente. A hipótese em teste é que a procedência do modelo de fundação pode moldar o tipo de informação e as conclusões que chegam a quem decide.

Os pesquisadores citam um fator que torna a questão mais urgente: quem quer implantar agentes em escala evitando o monitoramento das plataformas vem recorrendo cada vez mais a modelos chineses de pesos abertos, cujos parâmetros estão disponíveis publicamente para inspeção e modificação. É um efeito colateral pouco discutido da abertura — a mesma característica que permite auditoria independente também remove o intermediário que registraria o uso.

Usando processos comerciais encerrados entre Estados Unidos e China como caso de teste, a dupla vai examinar como a procedência do modelo afeta o que equipes de agentes produzem e o que sobrevive à etapa de resumo. Também pretendem liberar um conjunto de dados público de agentes de tarefa política com os modelos subjacentes identificados — o que daria a primeira visão sobre quais modelos de fundação estão de fato sendo implantados nesse espaço.

Os achados, segundo o anúncio, devem alimentar os debates sobre IA soberana, governança de pesos abertos e a eventual exigência de divulgação de procedência em aplicações governamentais e políticas.

Por que a agenda de IA e segurança global interessa fora dos Estados Unidos

Os três projetos tratam de perguntas que o Brasil terá de responder por conta própria, e o terceiro é o mais imediato.

Consultas públicas, tomadas de subsídio e audiências regulatórias são instrumentos centrais do processo normativo brasileiro. A ANPD, a Anatel, a ANEEL e o Banco Central conduzem regularmente consultas que recebem centenas ou milhares de contribuições. Nada impede hoje — nem tecnicamente, nem juridicamente — que essas contribuições sejam geradas em escala por agentes, nem que sejam resumidas por agentes do outro lado. A pergunta de “qual modelo escreveu isso e o que ele tende a omitir” deixa de ser acadêmica quando o texto resumido é a base de uma decisão administrativa.

O tema da IA soberana também tem tração local. A discussão sobre infraestrutura e modelos nacionais tende a se concentrar em capacidade de treinamento e em soberania de dados. A pergunta levantada por Pan e Koyejo desloca o foco: mesmo com dados hospedados no país, se a cadeia de agentes roda sobre modelos treinados em outro contexto regulatório, o viés de procedência entra pela porta da inferência.

Limitações e o que este anúncio não é

É importante calibrar expectativas. O que foi anunciado é financiamento de pesquisa, não resultado de pesquisa. Não há, neste momento, nenhum achado empírico a ser reportado: são três projetos de um ano, com valor modesto para os padrões da área, e cujos entregáveis prometidos — benchmarks, conjuntos de dados e comparações internacionais — ainda serão produzidos.

Há também limitações metodológicas previsíveis que os próprios projetos terão de enfrentar. Entrevistas conduzidas por IA sobre atitudes em relação à IA carregam um risco de circularidade que precisará ser controlado. Pesquisa de opinião comparada entre países com ambientes de mídia e liberdade de expressão muito distintos exige cautela particular na interpretação — respostas dadas em contextos diferentes não são automaticamente comparáveis. E qualquer trabalho de detecção aplicado a não proliferação enfrenta a dificuldade estrutural de validar um sistema contra eventos raros e frequentemente classificados.

Nenhuma dessas ressalvas desqualifica os projetos; elas apenas indicam que os resultados, quando saírem, deverão ser lidos com atenção à metodologia e não apenas às manchetes.

Conclusão

O conjunto selecionado revela uma inflexão no debate de política de IA. Até recentemente, a discussão girava em torno de risco de modelo — capacidade perigosa, alinhamento, uso indevido direto. Os três projetos apontam para um segundo nível de preocupação: como sistemas de IA já integrados a processos institucionais alteram silenciosamente a informação sobre a qual decisões são tomadas.

Vale acompanhar, ao longo do próximo ano, três entregas específicas: o benchmark de detecção de proliferação, que pode se tornar referência para avaliação de agentes em domínios de alto risco; a comparação de opinião pública entre Estados Unidos e China, que hoje é preenchida majoritariamente por especulação; e o conjunto de dados de agentes de tarefa política, que seria o primeiro mapeamento público de quais modelos de fundação estão efetivamente operando nesse espaço.

Fontes e referências

• Stanford HAI — New Stanford Grants Tackle AI’s Impact on Global Security and Geopolitics: hai.stanford.edu
• Stanford HAI — Open-Weight Models Aren’t Enough. We Need Truly Open Source AI Models for Science and Society: hai.stanford.edu
• Stanford HAI — Why Governing World Models Is AI’s Next Big Policy Challenge: hai.stanford.edu
• Hoover Institution — Technology Policy Accelerator: hoover.org