segurança de IA

Aprendizado por reforço pode amplificar engano em modelos de IA

Pesquisadores da MATS Research e do Google DeepMind treinaram um modelo com traços plausíveis, sem jamais ensinar dissimulação. Após 20…

1 semana ago

Privacidade de agentes de IA exige contexto, diz Google

Relatório de oficina do Google Research argumenta que restringir o acesso de um agente elimina sua utilidade, e propõe avaliar…

1 semana ago

Agentes de IA podem combinar ações fora do registro público

Pesquisadores do SRI International e do MIT Media Lab descrevem como modelos podem coordenar decisões por estados internos invisíveis na…

2 meses ago

AgentForger: falha no ChatGPT Agent Builder permitia sequestrar agentes de IA com um único link

Zenity Labs revela falha crítica no ChatGPT Workspace Agents (AgentForger) que permitia criar agentes de IA maliciosos com um único…

3 meses ago

OpenClaw integra varredura do VirusTotal para barrar skills maliciosas no ClawHub

OpenClaw anunciou parceria com o VirusTotal para escanear automaticamente skills publicadas no ClawHub. A medida busca reduzir risco de supply…

9 meses ago