Um novo ataque aos sistemas de reconhecimento facial baseados em IA

Sobre o novo ataque

Os pesquisadores desenvolveram este novo ataque a sistemas de reconhecimento facial baseados em IA que podem alterar fotos de tal forma que um sistema de IA reconhecerá uma pessoa diferente ou qualquer pessoa de sua escolha.

• A principal característica desse ataque é que ele pode ter como alvo várias implementações de IA, como dispositivos físicos e APIs online. Ele pode se adaptar ao ambiente de destino.
• Esse tipo de ataque pode ser usado em cenários de evasão, como falsificações profundas e furtivas, e cenários de envenenamento, enganando algoritmos de visão de computador, e pode levar a sérias consequências.
• O ataque é capaz de contornar serviços, aplicativos e APIs de reconhecimento facial. Além disso, tem impacto sobre o motor de busca de reconhecimento facial online mais avançado, conhecido como PimEyes.

Ataque ao mecanismo de pesquisa PimEyes

Este ataque, Adversarial Octopus no PimEyes é desenvolvido com as seguintes técnicas da estrutura de ataque:

• Para fornecer melhor transferibilidade, ele foi treinado em vários modelos de reconhecimento facial, juntamente com desfoque e ruído aleatórios.
• Para melhor precisão, o sistema foi criado para calcular mudanças adversas em cada camada de uma rede neural e usa um quadro de detecção de rosto aleatório.
• Para melhor imperceptibilidade, ele foi otimizado para pequenas alterações em cada pixel e usa funções especiais para suavizar o ruído adversário.

Conclusão

Este ataque mostra que os sistemas de IA requerem muito mais atenção na frente de segurança e esses novos métodos de ataque ajudarão a aumentar a conscientização. Isso ajudará as empresas a lidar com os problemas que existem nos atuais sistemas adversários de aprendizado de máquina. Além disso, os pesquisadores estão se coordenando com as empresas para proteger seus aplicativos de IA desse ataque.

Fonte: https://cyware.com/