Índice de Segurança de IA do FLI: Anthropic lidera com C+, ninguém tira A e Big Tech recua nas promessas

Resumo: O Future of Life Institute (FLI) publicou nesta semana o AI Safety Index — Summer 2026, avaliando nove laboratórios de fronteira em 37 indicadores distribuídos por seis domínios. A Anthropic ficou em primeiro lugar com nota C+, seguida por Google DeepMind e OpenAI (ambas com C), enquanto a xAI recebeu F. O relatório é enfático: as medidas atuais de segurança estão “completamente inadequadas” diante do ritmo de avanço das capacidades. Pior: o próprio FLI documenta recuo generalizado — inclusive das primeiras colocadas — em compromissos que estavam na base da narrativa de “IA responsável” desde 2023.

O que o índice mediu

O FLI avaliou nove empresas — Anthropic, OpenAI, Google DeepMind, xAI, Z.ai, Meta, DeepSeek, Alibaba Cloud e Mistral — em seis domínios que vão de transparência e governança a pesquisa técnica de alinhamento, avaliação de riscos catastróficos, política pública e compromissos externos. Foram 37 indicadores objetivos, todos verificáveis por documentação pública, cartas de laboratório ou entrevistas com os próprios times. Nenhuma nota A ou B foi distribuída. A Anthropic saiu na frente por manter cinco dos seis domínios com desempenho relativamente sólido, um framework de segurança mais maduro e transparência acima da média — mas mesmo assim ficou aquém do que o painel considera aceitável.

O recuo silencioso

A parte mais desconfortável do documento não está nas notas, e sim em uma seção sobre reversão de compromissos. Segundo o FLI, entre 2024 e 2026 Anthropic, OpenAI, Google DeepMind e Meta — todas com política pública anterior contra usos militares — flexibilizaram ou removeram essas restrições. Compromissos como “parar ou restringir o lançamento se atingirmos determinado nível de risco” foram enfraquecidos internamente ou não têm mais verificação externa. A xAI, que não tinha compromissos formais para começo de conversa, ficou com F por transparência mínima e ausência de metodologia pública de red-teaming.

Por que importa

Segurança de IA deixou de ser tema teórico há pelo menos dois anos e virou vetor competitivo. Reguladores dos EUA, Reino Unido, União Europeia, Coreia do Sul, Japão e Brasil olham para índices como o do FLI ao redigir textos como o AI Act, o EO-14179 e o PL 2338 brasileiro. Um índice que mostra recuo generalizado dá munição para o discurso de “autorregulação falhou” — o que tende a acelerar exigências de auditoria externa, avaliação obrigatória antes de release e transparência forçada de system cards. Para empresas que compram IA, o recado é ainda mais direto: nenhuma vendor está no lugar em que gostaria de estar do ponto de vista de segurança.

Status no Brasil

No Brasil, o índice chega em um momento em que a ANPD acaba de publicar o primeiro relatório do sandbox regulatório de IA e o PL 2338 caminha para votação antes do recesso de agosto. Empresas brasileiras que dependem de modelos de fronteira precisam começar a exigir dos fornecedores — em contrato — evidências mínimas: system card, política de red-teaming, plano de resposta a incidentes e política pública contra misuse. O índice do FLI serve como due diligence rápida: quem tira menos que C provavelmente ainda não tem processo maduro para operar em setor regulado (saúde, financeiro, jurídico, público).

Riscos e limitações do índice

O AI Safety Index não é neutro nem exaustivo. Alguns limites reconhecidos: (i) depende de informação pública, o que pune labs que fazem trabalho de segurança sem publicar; (ii) o painel é ocidental e favorece frameworks anglófonos; (iii) o peso relativo entre domínios (governança vs. pesquisa técnica) é discutível; (iv) o próprio conceito de “segurança” mistura riscos catastróficos, viés, privacidade e uso indevido — e nem todo comprador se preocupa com os mesmos itens. Ainda assim, é hoje o benchmark mais citado em comitês de risco e conselhos regulatórios.

Cenário para o segundo semestre

É razoável esperar que o próximo índice — de dezembro de 2026 — seja pior. Três forças pressionam para baixo: corrida por autonomia agentiva com incidentes cada vez mais complexos; disputa geopolítica que reduz apetite por restrições de uso; e ciclos de release cada vez mais rápidos, com janelas menores de avaliação. A única força contrária é a pressão regulatória, mas ela tende a chegar depois. Para empresas, isso significa que a distância entre “capacidade lançada” e “capacidade avaliada” só cresce.

.pn-swot{display:grid;grid-template-columns:1fr 1fr;gap:12px;margin:24px 0;font-family:inherit}
.pn-swot > div{padding:16px 18px;border-radius:8px;color:#fff}
.pn-swot h4{margin:0 0 8px;font-size:16px;font-weight:700;letter-spacing:.02em;text-transform:uppercase}
.pn-swot p, .pn-swot ul{margin:0;font-size:14.5px;line-height:1.5}
.pn-swot ul{padding-left:18px}
.pn-swot .f{background:#1f7a3a}
.pn-swot .w{background:#c96e1a}
.pn-swot .o{background:#1d5aa8}
.pn-swot .t{background:#a8261d}
@media(max-width:600px){.pn-swot{grid-template-columns:1fr}}

Conclusão prática

Para tomadores de decisão em empresas, três movimentos concretos: primeiro, incluir o índice do FLI (ou similar) na matriz de vendor risk de qualquer projeto com IA generativa; segundo, exigir do fornecedor de modelo o system card, política de uso e plano de resposta a incidentes; terceiro, evitar depender de uma única vendor em fluxos críticos — o FLI mostra que ninguém está no lugar ideal, então diversificação virou parte da política de segurança. Para pesquisadores e desenvolvedores, o recado é usar a métrica para pressionar por mais transparência dos próprios empregadores.

Fonte original: Future of Life Institute — AI Safety Index Summer 2026.