Compilado com a ajuda da Trend Micro, o relatório de usos maliciosos e abusos de inteligência artificial prevê que a IA será usada no futuro como vetor de ataque e superfície de ataque.
Na verdade, isso significa que os cibercriminosos estão procurando maneiras de usar ferramentas de IA em ataques, mas também métodos para comprometer ou sabotar os sistemas de IA existentes, como aqueles usados em reconhecimento de imagem e voz e detecção de malware.
O relatório alertou que, embora os deepfakes sejam os mais falados sobre o uso malicioso de IA, há muitos outros casos de uso que podem estar em desenvolvimento.
Isso inclui aprendizado de máquina ou sistemas de IA projetados para produzir conteúdo de engenharia social altamente convincente e personalizado em escala, ou talvez para identificar automaticamente os sistemas e dados de alto valor em uma rede comprometida que deve ser exfiltrada.
Os ataques de ransomware com suporte de IA podem apresentar segmentação e evasão inteligentes e autopropagação em alta velocidade para paralisar as redes das vítimas antes que elas tenham a chance de reagir, argumentou o relatório.
Ao encontrar pontos cegos nos métodos de detecção, esses algoritmos também podem destacar onde os invasores podem se esconder a salvo da descoberta.
“A IA promete ao mundo maior eficiência, automação e autonomia. Em um momento em que o público está cada vez mais preocupado com o possível uso indevido de IA, temos que ser transparentes sobre as ameaças, mas também olhar para os benefícios potenciais da tecnologia de IA. ” disse Edvardas Šileris, chefe do Centro de Cibercrime da Europol.
“Este relatório nos ajudará não apenas a antecipar possíveis usos maliciosos e abusos de IA, mas também a prevenir e mitigar essas ameaças de forma proativa. É assim que podemos desbloquear o potencial da IA e nos beneficiarmos do uso positivo dos sistemas de IA. ”
Para esse fim, o documento destaca várias áreas onde a indústria e a aplicação da lei podem se unir para prevenir os riscos destacados anteriormente. Isso inclui o desenvolvimento de IA como uma ferramenta de combate ao crime e novas maneiras de criar resiliência em sistemas de IA existentes para mitigar a ameaça de sabotagem.
Fonte: https://www.infosecurity-magazine.com/news/un-and-europol-warn-of-growing-ai/
Falha permite que invasores manipulem o agente de um usuário por meio de um problema…
Um exploit de dia zero, dirigido aos firewalls FortiGate da Fortinet, foi descoberto à venda…
A família SHELBY mostra um exemplo preocupante de malware moderno com design modular, sofisticado e…
Hackers estão explorando o diretório mu-plugins do WordPress para injetar códigos maliciosos que não aparecem…
O Google implementou uma nova funcionalidade de "Detecção de Golpes" com inteligência artificial no aplicativo…
O grupo APT28, ligado à Rússia, está utilizando técnicas avançadas de ofuscação em seus ataques…