Google lança duas novas ferramentas de IA para detectar golpes conversacionais em dispositivos Android

O Google lançou duas novas ferramentas baseadas em inteligência artificial (IA) para detectar golpes conversacionais em dispositivos Android.

Esses novos recursos, Detecção de Golpes para mensagens e chamadas, foram introduzidos em uma publicação no blog do Google em 4 de março.

O Google afirmou que essas ferramentas foram desenvolvidas com base nas proteções tradicionais contra spam, com o objetivo de fortalecer as defesas contra golpes relacionados a empregos e entregas, que ainda serão disponibilizados para os usuários.

No entanto, o Google alegou que essas novas ferramentas vão além, sendo capazes de detectar padrões suspeitos e fornecer alertas em tempo real durante uma conversa, sempre priorizando a privacidade do usuário.

Essas ferramentas têm o objetivo de impedir que os usuários sejam vítimas de golpes conversacionais, que começam inocentemente, mas aos poucos manipulam as vítimas para compartilhar dados sensíveis, transferir dinheiro ou mudar para outros aplicativos de mensagens.

Os autores da publicação, Lyubov Farafonova (Gerente de Produto do Google) e Alberto Pastor Nieto (Gerente Sênior de Produto do Google), afirmaram que a empresa se associou a instituições financeiras de todo o mundo para entender melhor os golpes mais avançados e comuns enfrentados pelos clientes.

Detecção de Golpes no Google Mensagens para Android

O primeiro recurso, Detecção de Golpes no Google Mensagens, ajuda a identificar golpes em tempo real, mesmo após a recepção das mensagens iniciais.

Quando padrões suspeitos são detectados em SMS, MMS e mensagens RCS enviadas por números desconhecidos, os usuários recebem um aviso, com a opção de descartar, denunciar e bloquear o remetente.

A Detecção de Golpes está ativada por padrão, e todo o processamento das mensagens acontece diretamente no dispositivo, garantindo a privacidade do usuário. Os usuários também podem denunciar conversas para ajudar a reduzir o spam, mas apenas os detalhes do remetente e mensagens recentes são compartilhados com o Google e operadoras.

A ferramenta está disponível em inglês, nos EUA, Reino Unido e Canadá, e será expandida para mais países em breve.

Detecção de Golpes para Chamadas no Android

O segundo recurso, Detecção de Golpes para Chamadas, processa o áudio das ligações diretamente no dispositivo, protegendo a privacidade do usuário. Nenhuma gravação, armazenamento ou compartilhamento do áudio ou da transcrição é feito.

Este recurso está desativado por padrão, aplica-se apenas a ligações suspeitas de números desconhecidos e notifica os participantes com um bipe quando ativado.

Segundo uma pesquisa do próprio Google, os alertas de Detecção de Golpes já ajudaram as pessoas a serem mais cautelosas e evitarem cair em golpes conversacionais.

A Detecção de Golpes para Chamadas foi lançada para usuários beta públicos do aplicativo Phone by Google, nos EUA, em dispositivos Pixel, no final de 2024.

Google Cloud lança proteção para IA

Em 5 de março, o Google Cloud lançou o AI Protection, uma nova solução agnóstica de plataforma, projetada para proteger cargas de trabalho e dados de IA em diferentes nuvens e modelos.

Essa nova solução foi criada para permitir que equipes de segurança descubram ativos de IA, protejam dados de IA e gerenciem ameaças, como injeção de prompts, jailbreak, perda de dados, URLs maliciosos e conteúdo ofensivo.

O AI Protection está integrado ao Google Security Command Center (SCC).

Além disso, o Google afirmou que a Mandiant Consultants, empresa que faz parte do Google Cloud, oferecerá serviços para ajudar organizações a avaliar e implementar medidas robustas de segurança para sistemas de IA, além de realizar testes de segurança ofensivos (red teaming) para IA.