Rede russa alimentada por IA promove notícias políticas falsas

Apelidada de “CopyCop” pela Recorded Future, a rede usa GenAI alimentado por modelo de linguagem grande (LLM) para copiar conteúdo da grande mídia e, em seguida, introduzir preconceito político à medida que adapta esse conteúdo para públicos específicos.

Organizações de comunicação social, incluindo Al-Jazeera, Fox News, BBC, La Croix e TV5Monde estão entre as afetadas. Às vezes, sites legítimos são falsificados e hospedados em domínios alternativos, como bbc-uk[.]news, enquanto em outras ocasiões, as histórias são publicadas em sites de notícias fictícios como London Crier e GB Geopolitics, afirmou o relatório da Recorded Future.

As narrativas promovidas pelo CopyCop destinam-se a apoiar os objectivos de influência russa , semeando a divisão sobre o conflito Israel-Hamas , minando o apoio à Ucrânia e criticando a política governamental.

As histórias vistas pelo Recorded Future incluem alegações de que o governo do Reino Unido criminalizou o Islão e que está a planear introduzir uma “zona tampão” de países da NATO em torno da Ucrânia. Outros tentam criar uma barreira entre os governos do Reino Unido e dos EUA, afirma o relatório.

Preocupações com a desinformação eleitoral

A Recorded Future disse que está particularmente preocupada com o potencial de conteúdo alimentado por GenAI como este para influenciar os eleitores antes das principais eleições no Reino Unido e nos EUA no final deste ano.

O analista de inteligência de ameaças da Recorded Future, Clément Briens, alertou que o CopyCop está usando IA para alcançar “alcance e eficácia sem precedentes” a fim de influenciar a opinião pública.

“As organizações de mídia e as entidades governamentais devem identificar e derrubar proativamente redes de influência que abusam de sua marca ou propriedade intelectual, trabalhar com autoridades de nomeação como a ICANN e provedores de hospedagem para bloquear domínios de influência infratores”, disse ele à Infosecurity .

“Expor as operações de influência e comunicar com precisão sobre o seu impacto ou envolvimento medido também deve ser uma prioridade fundamental.”

Se o CopyCop tiver sucesso, é provável que outras operações de influência sigam um modelo semelhante alimentado pela GenAI no futuro, com profundas implicações para a democracia ocidental e para a confiança nos principais meios de comunicação, concluiu o relatório.

A Recorded Future enfatizou a necessidade crescente de uma melhor colaboração entre governos, empresas de tecnologia e sociedade civil para combater a proliferação de desinformação online.