A gigante do software Adobe foi pega vendendo imagens geradas por IA da guerra entre Israel e o Hamas, como a agência de notícias australiana Crikey detectou pela primeira vez, um caso chocante e moralmente repreensível de uma empresa que lucra diretamente com a disseminação de desinformação online.
Uma pesquisa rápida no site Adobe Stock da empresa – um serviço que dá aos clientes assinantes acesso a uma biblioteca de imagens genéricas e agora também fotos de IA – por “conflito Israel-Palestina” leva a imagens fotorrealistas de explosões em ambientes urbanos de alta densidade que assemelham-se muito à carnificina da vida real que se desenrola em Gaza.
exemplos de imagens geradas por IA na Adobe
Outra imagem mostra “mãe e filho numa cidade destruída no conflito entre a Palestina e Israel”, uma imagem devastadora inteiramente gerada por inteligência artificial. Esta é uma série de 33 imagens que mostram uma composição semelhante.
Ainda outro mostra “edifícios destruídos e queimados na cidade de Israel”.
Todas essas imagens parecem ter sido enviadas por usuários do Adobe Stock e aparentemente não foram geradas pela própria Adobe, mas o fato de terem sido carregadas sem a devida supervisão permanece sério.
No entanto, embora sejam tecnicamente rotuladas como “geradas por IA”, um requisito para todos os trabalhos enviados por usuários, algumas dessas imagens já estão circulando em outros lugares da web, como Crikey descobriu, e podem facilmente enganar membros desavisados do público.
Uma simples pesquisa reversa de imagens no Google confirma isso: uma imagem fotorrealista de IA de uma enorme explosão foi usada por uma série de pequenas publicações.
Geradores de imagens de IA como DALL-E, Stable Diffusion e OpenAI's Midjourney fizeram enormes avanços tecnológicos nos últimos 12 meses. Já se foram os dias em que as imagens geradas eram claramente irrealistas.
Como resultado, as imagens geradas por IA estão ganhando enorme visibilidade online. No início deste ano, o Futurism descobriu que o principal resultado de imagem no Google para o nome do famoso artista realista Edward Hopper era uma IA falsa.
Em vez de entrar cautelosamente no mundo da IA generativa, a Adobe optou por abraçar esta tecnologia com entusiasmo.
No mês passado, ele causou um grande impacto depois de retirar da versão beta seu modelo generativo de IA chamado Firefly, tornando-o parte integrante e facilmente acessível de seu amplamente utilizado Photoshop. A empresa até adicionou um novo esquema de bônus anual para colaboradores do Adobe Stock, incentivando-os ativamente a permitir que seu trabalho seja usado para treinar o modelo de IA da empresa.
Mas esse tipo de fervor nem sempre é vantajoso para todos. Com a forma como a Adobe escolhe comercializar imagens geradas por IA, a empresa também está minando ativamente o trabalho dos fotojornalistas. Em muitos aspectos, este é mais um caso em que as tecnologias de IA ameaçam tirar muito dinheiro daqueles que capturaram as imagens originais nas quais os algoritmos de geração de imagens de IA foram treinados.
É um exemplo particularmente preocupante e eticamente questionável, considerando a enorme quantidade de perigos a que os fotógrafos de guerra se expõem ao documentar as duras realidades dos conflitos humanos.
Obviamente o maior problema agora é que estas imagens falsas podem ser a base de narrativas falsas. Já era difícil distinguir entre verdadeiro ou falso antes, mas agora, com imagens realistas desenhadas por IA com base nas instruções dos clientes, torna-se quase impossível, especialmente se as imagens forem apresentadas como representações de imagens de notícias, e não como fruto da imaginação .
Muitos problemas terão que ser resolvidos.
Graças ao nosso canal Telegram você pode ficar atualizado sobre a publicação de novos artigos sobre Cenários Econômicos.
Artigo Adobe vende imagens geradas por IA sobre a guerra entre o Hamas e Israel. vem de Cenários Econômicos .
Esta é uma tradução automática de uma publicação publicada em Scenari Economici na URL https://scenarieconomici.it/adobe-vende-immagini-generate-dalla-ai-sulla-guerra-fra-hamas-e-israele/ em Sun, 05 Nov 2023 11:58:49 +0000.