Os apoiantes do Estado Islâmico, que enfrentam reveses militares significativos, exploram cada vez mais a inteligência artificial (IA) para gerar propaganda online sofisticada. Especialistas relatam que os apoiadores do ISIS conseguiram produzir propaganda elaborada, como boletins de notícias criados por IA em vários idiomas, usando a tecnologia.
Leia também: Bots que usam inteligência artificial inundam as redes sociais com desinformação
Um exemplo disso foi o Estado Islâmico Khorasan (ISKP), um braço do EI ativo no Afeganistão e no Paquistão. Depois de um ataque reivindicado pelo ISIS na província de Bamiyan em 17 de maio, que matou quatro pessoas, incluindo três turistas espanhóis, o ISKP divulgou um vídeo de um apresentador de TV da AI. O apresentador, que falava pashto, se assemelhava aos moradores locais e narrou o ataque, mostrando o uso da inteligência artificial pelo grupo para tornar o conteúdo mais verossímil.
Afiliados do IS implantam âncoras de notícias geradas por IA
Outro vídeo produzido por IA foi lançado apresentando um apresentador virtual alegando que o ISIS estava por trás de um ataque com carro-bomba em Kandahar, no Afeganistão. O especialista em segurança cibernética Roland Abi Najem destacou a eficiência desses vídeos deepfake alimentados por IA, acrescentando que o IS vem usando produção com qualidade de Hollywood há anos.
“A IA agora tem ferramentas fáceis de usar para criar conteúdo falso, seja texto, fotos, áudio ou vídeo. Você só precisa de dados, algoritmos e poder de computação, para que qualquer pessoa possa criar conteúdo gerado por IA em suas próprias casas ou garagens.”
Roland Abi Najem
O uso de inteligência artificial pelo ISIS para fins de propaganda foi lançado oficialmente poucos dias depois de um terrível ato de terrorismo em Moscou, em 22 de março, no qual 145 pessoas foram mortas. Especialistas apontaram que um jornalista de IA foi usado para relatar este ataque pela primeira vez e que este grupo recorreu à divulgação de notícias falsas através de inteligência artificial.
Expandindo a influência extremista por meio de conteúdo de IA
Mona Thakkar, pesquisadora do Centro Internacional para o Estudo do Extremismo Violento, disse que os apoiadores do ISIS usam técnicas de geração de caráter.
“Esses esforços obtiveram respostas positivas de outros usuários, refletindo que, por meio de esforços colaborativos futuros, muitos defensores poderiam produzir vídeos de propaganda do EI sofisticados, de alta qualidade e de formato longo, com melhores gráficos e técnicas mais inovadoras.”
Leia também: Qual a batalha entre fake news e inteligência artificial nas eleições de 2024?
Thakkar também observou que os membros que promovem o IS no Telegram incentivam o uso de bots geradores de imagens de IA, pois produzem imagens de alta qualidade para o canal porque esses bots são eficazes e fáceis de usar. Esta prática é indicativa da utilização crescente da inteligência artificial como ferramenta para melhorar a eficácia e a coesão do extremismo.
A inteligência artificial permite operações de influência e recrutamento
Embora o grupo tenha perdido muito terreno na Síria e no Iraque, ainda utiliza a inteligência artificial para espalhar a sua mensagem de ódio e apresentar uma fachada de força. Conforme afirma Najem, com a ajuda da inteligência artificial, o EI pode criar vídeos deepfake para influenciar celebridades e influenciadores específicos, principalmente jovens, a aderirem à organização.
Leia também: A inteligência artificial revoluciona os esforços contra a lavagem de dinheiro e o combate ao terrorismo
Daniel Siegel, investigador da Rede Global sobre Extremismo e Tecnologia, explicou que a inteligência artificial mudou a natureza das operações de influência online dos grupos extremistas.
“A implantação estratégica de extremistas de áudio deepfake nasheed, apresentando personagens animados e personalidades da Internet, marca uma evolução sofisticada nas táticas usadas pelos extremistas para ampliar o alcance de seu conteúdo.”
Siegel disse ainda que outras organizações terroristas como a Al Qaeda e o Hamas também recorreram à IA para produzir conteúdo para os seus seguidores. À medida que essas organizações radicais utilizam a IA para criar conteúdos com aparência profissional, traduzidos e atraentes, as autoridades e os gigantes da tecnologia devem encontrar formas de combater estas ameaças.