A inteligência artificial generativa, como o ChatGPT, abre um mundo de novas possibilidades para fraudes online e os cibercriminosos podem fazer de tudo: espalhar notícias falsas, clonar uma voz, mas também roubar sua identidade ou inventar uma inexistente. O aprofundamento do Le Monde
Quem votou em George Santos, eleito para o Congresso dos Estados Unidos em novembro de 2022 pelas fileiras dos republicanos, pensou ter votado num jovem financista com um diploma brilhante, de origem judaica, homossexual e dono de muitas vilas. Nada disso era verdade. De origem brasileira e com problemas com a lei em seu país, ele se separou da esposa, foi morar com a irmã e acabou confessando que era bastante católico… Foi indiciado em maio, não tanto por suas mentiras, que definiu como “erros”, mas por fraude financeira, branqueamento de capitais e desvio de fundos públicos. A história está cheia de falsificadores, mentirosos, mitômanos e plagiadores. Nem todos eles estão expostos, mas sua capacidade de causar danos geralmente é limitada. Le Monde escreve.
Por outro lado, graças aos avanços das tecnologias digitais, e em particular da inteligência artificial (IA), a fraude e a falsificação assumem uma dimensão inédita e muito mais preocupante, em setores onde as consequências podem ser graves. A escala do problema não tem precedentes, porque essas tecnologias os tornam acessíveis a todos, com o menor custo possível e sem a necessidade de dominar a informática ou a codificação. Graças a soluções de software não padronizadas adquiridas na dark web, os criminosos podem lançar rapidamente um golpe em grande escala e desaparecer em um instante, deixando seus rastros para trás.
Essas fraudes são ainda mais preocupantes porque são muito difíceis, senão impossíveis, de detectar. Os criminosos aprenderam rapidamente a dominar e explorar essas ferramentas digitais sofisticadas, que os ajudam a ficar um passo à frente da aplicação da lei, mesmo no ciberespaço.
As fraudes geralmente têm dois objetivos: manipulação (propaganda, espionagem, etc.) ou roubo. A recente campanha “Doppelgänger” ilustra claramente o primeiro objetivo. Liderada pela Rússia, essa operação de propaganda e interferência produziu sites e links falsos que usurparam as identidades visuais de sites governamentais e de diversos jornais europeus e franceses, inclusive o Le Monde . Esses links levaram a artigos promovendo a Rússia e denegrindo a Ucrânia e os países que a apoiam, imitando perfeitamente a aparência dos sites falsos.
MAIOR CREDIBILIDADE
Graças à inteligência artificial generativa, como o ChatGPT, as “fazendas de trolls” – organizações que disseminam massivamente informações falsas nas redes sociais – são capazes de produzir conteúdo curado e bem apresentado em francês muito correto. Os erros ortográficos e de sintaxe que permitiam aos mais atentos identificar sites falsos desapareceram. “Neste campo de desestabilização geopolítica, os objetivos são mais amplos do que antes. Já não se trata de pequenas campanhas, mas de operações de grande envergadura destinadas a manipular a opinião pública, como a "Doppelgänger", ou a recolher informações estratégicas, como a campanha de ciberespionagem contra o sector de defesa europeu do grupo hacker Lazarus na rede profissional LinkedIn, ” observa Benoît Grunemwald, especialista em cibersegurança da ESET França.
No que diz respeito à fraude financeira, a criatividade da tecnologia digital não é diferente. Na primavera, mensagens SMS da Agence nationale de traitement automatisé des infrações (Antai – Agência Nacional Francesa para o Processamento Automático de Infrações) notificaram o destinatário de um pagamento atrasado. Um link levava o destinatário a um site semelhante ao da Antai, onde ele tinha que inserir seus dados, inclusive bancários, para pagar a multa de estacionamento que provavelmente havia esquecido… Na verdade, era um golpe de phishing tradicional, destinado a coletar dados bancários pessoais, que foram revendidos na dark web.
Nesses casos, há vários sinais de alerta, como o fato de a multa ser notificada pelo celular, ou o endereço do site conter um caractere estranho ou uma letra a mais, etc. Mais uma vez, a tecnologia digital tornou mais fácil melhorar a apresentação e, portanto, a credibilidade do site falso. Até o final de 2022, os hackers criaram mais de 6.000 sites falsos para marcas famosas, oferecendo itens a preços com grandes descontos. O endereço do site falso diferia muito pouco do real, com um travessão em vez de um ponto final entre o nome da marca e o nome do país.
“FINGIR SER OUTRA PESSOA”
No setor bancário, “a tecnologia digital é uma dádiva de Deus para os fraudadores, que estão constantemente se reinventando”, diz Tanguy Le Nouvel, chefe de ciência de dados da empresa francesa de serviços públicos Micropole. Hoje é possível fazer tudo online: comprar, pedir emprestado, ser reembolsado, abrir conta no banco. Por exemplo, ao exigir um arquivo completo de contracheques, dados bancários e identidades de alguém solicitando um empréstimo ou alugando um apartamento, um fraudador tem todas as informações necessárias para se passar por outra pessoa, pedir dinheiro emprestado e movê-lo.”
A inovação neste campo é a fraude de correio. O banco liga para o cliente para avisar que foi detectado um problema em seu cartão de crédito. Sem problemas, um mensageiro enviado prontamente para verificar o funcionamento do cartão chega com uma leitora e verifica se o cartão e o código foram reconhecidos corretamente. Tudo correu bem. O cliente fica tranquilo e o entregador sai com todos os dados do cliente armazenados no leitor.
Mesmo as férias dão origem a novos golpes. Uma lista de aluguel encontrada em um site respeitável, mas infelizmente não está mais disponível, leva a outro site onde, coincidentemente, a casa ainda está disponível para aquela cobiçada semana de agosto… Tem até um vídeo. O negócio foi feito. O proprietário envia um formulário com os dados bancários, o futuro veraneante envia uma caução e marca-se a recolha das chaves. Quando a família chega, a casa ou não está lá ou está ocupada pelos donos que nunca a alugaram. Naturalmente, ninguém atende o telefone.
“VÁRIAS CARAS FALSAS GERADAS POR IA”
Em um contexto de guerra por talentos, demissões em massa em gigantes da tecnologia e teletrabalho generalizado, o recrutamento também se tornou um playground para os cibercriminosos. A perspectiva de um salário atrativo e de um perfil particularmente atrativo torna tanto os candidatos quanto as empresas menos vigilantes. Isso é confirmado pela experiência da Remote, que contrata, gerencia e paga funcionários em todo o mundo em nome de empresas em expansão internacional.
“Descobrimos que o funcionário que um de nossos clientes queria contratar não existia. A foto do passaporte dele era uma imagem gerada por IA. Investigações posteriores revelaram que seu perfil em redes profissionais foi modificado com vários rostos falsos gerados por IA”, explica Sam Ross, diretor jurídico da Remote em Londres. Segundo ele, o objetivo desse avatar era "pegar vários empregos para ganhar um bônus de contratação ou primeiro cheque antes de desaparecer".
As empresas publicam suas contratações em redes profissionais, onde os funcionários anunciam que acabaram de mudar de emprego. Tudo o que o criminoso precisa fazer é roubar o endereço de e-mail do novo contratado – que não é difícil de encontrar – fingir ser o contratado e enviar ao RH os novos dados bancários. Levará um ou dois meses para o funcionário se preocupar em não receber. Por outro lado, alguém que se faz passar pela empresa pode pedir ao futuro funcionário os seus dados bancários para completar o seu dossiê ou informações sobre outros funcionários, dados que serão imediatamente vendidos na dark web.
“Os criminosos tentam intimidar o novo recruta. Aconteceu comigo uma semana depois de ingressar na Acronis. Alguém se passando por um executivo da empresa me pediu informações”, diz Ashley Taylor, agora chefe de recrutamento desse especialista em segurança cibernética. “As pessoas podem trair em uma ou mais coisas, mas não em tudo. Sempre haverá áreas em que a IA falhará. Quando estamos contratando, por exemplo, a câmera tem que funcionar em algum momento da entrevista. Você não pode se contentar com um diploma ou um número de telefone”, acrescenta Dan Meyers, diretor de recursos humanos da Acronis em Massachusetts, EUA.
CLONANDO UMA VOZ
A desmaterialização de nossas atividades abriu as portas para novos golpes. Quer falar com Kim Kardashian ou Elon Musk? Ou pedir a uma atriz de sua escolha que leia um texto para você? Basta conectar-se a um chatbot. Mas esses programas, que podem clonar uma voz a partir de alguns segundos de gravação, também são usados para fins menos divertidos, como espalhar informações falsas ou recomendar uma droga roubando a voz de um famoso autor de podcast. Ou pior.
Em junho, Jennifer DeStefano testemunhou perante o Senado dos EUA sobre os perigos da clonagem de voz por IA. Ela recebeu um telefonema da filha, aos prantos, contando que ela havia sido sequestrada. O sequestrador ameaçou executá-la e exigiu um resgate. Na verdade, o golpista estava usando a voz da filha reproduzida pela inteligência artificial…
“A atividade criminosa usando inteligência artificial e voz está aumentando rapidamente na dark web. Kits de clonagem fáceis de usar estão disponíveis para golpes como "chamada de emergência para a família" ou "golpe do presidente". Criminosos contam com urgência, emoção e respeito à hierarquia. “Para as empresas, os riscos são enormes, tanto financeiramente quanto em termos de reputação”, observa Hande Guven, analista de inteligência de ameaças da empresa americana de segurança cibernética Recorded Future. É claro que hoje existem ferramentas para detectar se uma voz é humana ou não, “mas esta é uma área em que a tecnologia se move muito mais rápido do que a regulamentação”, lamenta Hande Guven.
A francesa Odigo, que desenvolve soluções de software para call centers, utiliza diferentes níveis de autenticação do chamador, como verificar se a voz é realmente humana e não gerada por uma inteligência artificial. “Mas segurança não é apenas sobre tecnologia, mas também sobre pessoas. Muitas vezes, as fraudes e falsificações são resultado de problemas, ferramentas defeituosas e mau funcionamento”, afirma Bertrand Deroubaix, Diretor de Qualidade, Segurança e Gestão de Riscos da Odigo.
Mas, embora a tecnologia digital e a inteligência artificial tenham aumentado o volume de fraudes, elas também estão ajudando a melhorar a detecção. A equipe de ciência de dados da Micropole desenvolveu soluções baseadas em IA para detectar anomalias e prever fraudes financeiras (créditos, pagamentos, impostos). “A detecção de fraudes financeiras é muito lucrativa”, admite Tanguy Le Nouvel. Ele cita o exemplo de uma organização de crédito ao consumidor: “95% das tentativas fraudulentas de solicitação de crédito, que antes seriam aceitas, foram identificadas e rejeitadas. O retorno sobre o investimento é fácil de quantificar. A dificuldade está em encontrar o modelo certo e preparar os dados corretamente para não rejeitar clientes genuínos.
Neste eterno jogo de gato e rato, a vigilância deve ser constante. A disseminação de compras online e pagamentos sem cartão nos tornou menos prudentes. Por preguiça, deixamos nossos telefones lidar com códigos PIN e números de cartão de crédito. Mas isso não significa que não devemos ser cautelosos e fazer algumas verificações antes de confirmar a compra de um relógio de grife ou peça de roupa a preço de banana em um site que não conhecemos…
(Trecho da resenha da imprensa estrangeira da eprcomunicazione )
Esta é uma tradução automática de uma publicação publicada em Start Magazine na URL https://www.startmag.it/innovazione/dalle-fake-news-alle-truffe-finanziarie-benvenuti-nellera-delle-grandi-frodi-online/ em Sat, 15 Jul 2023 05:15:24 +0000.