Notícias horríveis circularam nas redes sociais quando a Plataforma X de Elon Musk promoveu notícias sobre o ataque do Irão a Israel na primeira página do seu feed de notícias, Explore.
Na quinta-feira, uma das manchetes do principal feed de notícias de X dizia:
“O Irã atinge Tel Aviv com mísseis pesados”
Esta teria sido uma atualização bastante preocupante, tendo em conta o cenário geopolítico e o recente ataque de Israel à embaixada iraniana na Síria, que matou altos funcionários, e as tensões entre as duas nações, que aumentaram ainda mais durante a invasão israelita de Gaza. Então talvez não seja um bom momento, mas o momento ideal poderia ser para aqueles que querem promover manchetes enganosas por qualquer motivo, e o papel da IA (inteligência artificial) não pode ser ignorado quando pode ser usado como uma ferramenta para tais atos hediondos. .
A manchete era falsa e, o que é mais preocupante, foi gerada por .
A iniciativa de automação de Elon Musk: por que o acidente aconteceu em primeiro lugar
Voltando às raízes do incidente, torna-se óbvio que o título enganoso gerado por Grok surgiu como produto da transição do trabalho de curadoria de conteúdo crítico realizado por humanos, agora confiado à inteligência artificial, que ainda não é totalmente inteligente.
A Plataforma X, anteriormente Twitter, tinha um recurso que fornecia contexto escrito para tópicos de notícias em alta. Essas descrições provavelmente foram escritas por humanos. O algoritmo do Twitter foi capaz de identificar palavras-chave relevantes e compartilhar a tendência com trending topics com base nas sugestões de palavras-chave.
Posteriormente, o Twitter treinou uma equipe de editores humanos para fazer a curadoria de notícias e gerenciar tendências para obter melhores resultados, para que os trending topics não ficassem mais à mercê de algoritmos; em vez disso, tinham um elemento humano por trás deles, por isso foi adotada uma abordagem mais confiável. O Twitter também fez parceria com grandes meios de comunicação como Reuters e AP para fortalecer ainda mais o processo de criação de contexto gerado por humanos para tópicos de tendência.
Mas as coisas mudaram quando Musk adquiriu o Twitter em 2022, renomeou-o como X e substituiu o contexto escrito por humanos nas notícias de tendência. Toda a equipe de editores humanos foi demitida porque Musk preferia a IA para fazer a curadoria de notícias de forma mais eficiente, mas ela tinha suas falhas.
Os riscos de confiar exclusivamente na inteligência artificial
O facto de Musk ser tão ambicioso para Grok e promovê-lo em todas as oportunidades, sabendo que ainda está numa fase inicial e não é tão fiável, é por si só uma preocupação. A substituição de editores humanos por inteligência artificial por Musk pode trazer alguns benefícios financeiros, mas também acarreta custos.
O fato de a manchete não ter sido retirada do feed de alguém, mas sim gerada por Grok, o chatbot de IA nativo na plataforma promovido para o topo da página de notícias Explorar.
Isso mostra que não existia um sistema de controle entre a geração e a divulgação dessas notícias, e se existia um sistema não era suficiente e a empresa dependia totalmente da IA para fazer o trabalho. Conforme afirmado anteriormente, a IA ainda não é inteligente o suficiente para lidar com temas sensíveis, apesar de oferecer muitas vantagens na análise de dados e fornecer resultados de forma mais eficiente do que seria humanamente possível. No entanto, existem áreas que necessitam de intervenção humana e a IA pode levar algum tempo a atingir esse estágio. Até então, confiar apenas nos procedimentos de IA não é uma jogada inteligente.
História original no Mashable