Meta começará a reportar no Facebook, Instagram e Threads se uma imagem for gerada com IA. O Google também fez o mesmo anúncio, mas combater os deepfakes parece uma missão impossível. Fatos e comentários
Quem por um momento não acreditou (ou quis acreditar, em alguns casos) que as fotos do Papa Francisco com uma vistosa jaqueta branca ou as da prisão de Donald Trump e Vladimir Putin eram verdadeiras? Com o rápido desenvolvimento da inteligência artificial (IA) e das suas ferramentas nos últimos meses, distinguir a realidade da ficção é cada vez mais difícil, especialmente nas redes sociais, o veículo preferido para a circulação de deepfakes, ou seja, fotos, vídeos e áudio criados com software de computador. parece real.
A Meta de Mark Zuckerberg anunciou então que, nos próximos meses, rótulos aparecerão no Facebook, Instagram e Threads para indicar se uma imagem foi gerada com IA. No ano passado, o Google também disse que tomaria a mesma ação para o YouTube e suas outras plataformas.
No entanto, os especialistas, embora apreciem a iniciativa, estão cépticos quanto à sua eficácia.
META E OS ETIQUETAS “MADE BY AI”
Enquanto a linha entre a realidade e a ficção se torna cada vez mais tênue online, ontem a Meta anunciou que as imagens geradas com IA serão reconhecíveis em suas redes sociais graças a um rótulo onde estará escrito “made by AI”. O objetivo é evitar criar confusão e espalhar deepfakes entre os usuários através do Facebook, Instagram e Threads. Em relação aos conteúdos que podem ser compartilhados no WhatsApp, porém, ainda não se sabe o que acontecerá.
Os padrões técnicos com os quais a empresa de Zuckerberg está trabalhando também poderiam ser estendidos ao vídeo e áudio criados com ferramentas de IA, embora nestes casos, segundo o presidente de assuntos globais da empresa, Nick Clegg, “seja mais complicado” . A Meta disse então que começará a pedir aos usuários que rotulem seu conteúdo de áudio e vídeo de IA e aplicará penalidades não especificadas se não o fizerem. Clegg, porém, lembrou que, porém, não existe um mecanismo válido para rotular o texto escrito gerado por ferramentas como o ChatGpt.
A ambiciosa intenção da Meta, que já rotula qualquer conteúdo gerado com ferramentas próprias de inteligência artificial, é expandir o monitoramento para imagens geradas pelos serviços de IA de outras empresas, como OpenAI, Microsoft, Adobe, Midjourney, Shutterstock e Google. E é aqui que muitos especialistas se dizem céticos.
PORQUE SERÁ DIFÍCIL COMBATER DEEPFAKES
Num período em que é muito fácil gerar conteúdo falso, graças ao software elementar de IA, tentar conter um rio caudaloso parece muito difícil. Além disso, 2024 é um ano eleitoral e se as eleições presidenciais dos EUA de 2020, seguidas do ataque ao Capitólio, foram apenas uma amostra do peso que as redes sociais tiveram em influenciar ou desinformar as pessoas, é apenas imaginável o que poderia acontecer com as ferramentas de hoje. e os avanços gigantescos feitos em muito pouco tempo pela IA. “Espero um tsunami de desinformação”, disse Oren Etzioni, especialista em inteligência artificial e professor emérito da Universidade de Washington. “Eu não posso provar isso. Espero que se prove que estou errado. Mas os ingredientes estão lá e estou completamente apavorado."
Depois, há também os riscos para a privacidade e para o relacionamento com o indivíduo, como no caso das imagens pornográficas deepfake de Taylor Swift que circularam online e que se acredita terem sido geradas por modelos de difusão como Stable Diffusion, Midjourney ou Dall- E, mas cuja origem não foi então tentada determinar.
Embora recebida com entusiasmo, a notícia da Meta não deixa ninguém totalmente à vontade. Como disse Gili Vidan, da Universidade Cornell, o sistema pode ser “bastante eficaz” na sinalização de grande parte do conteúdo gerado por IA feito com ferramentas comerciais, mas provavelmente não capturará tudo. Mesmo para os consumidores, escreve Quartz , uma preocupação potencial é que as plataformas tecnológicas se tornem melhores na identificação de conteúdos gerados por IA a partir de uma série de grandes fornecedores comerciais, mas não consigam identificar conteúdos produzidos com outras ferramentas.
Esta é uma tradução automática de uma publicação publicada em Start Magazine na URL https://www.startmag.it/innovazione/letichetta-made-by-ia-di-meta-riuscira-ad-arginare-il-mare-magnum-di-deepfake/ em Wed, 07 Feb 2024 10:20:33 +0000.