O Google usa inteligência artificial para responder perguntas relacionadas a questões de saúde. Alguns analistas consideram isso preocupante, considerando que o recurso AI Overview pode fornecer informações não confiáveis.
Os médicos dizem que as visões gerais da IA podem ser preocupantes, especialmente ao responder perguntas sobre saúde pessoal. De acordo com um relatório recente do New York Times, o recurso tem o potencial de fornecer informações imprecisas, embora também possa orientar as pessoas em direção aos cuidados médicos necessários.
Erro de pesquisa de visões gerais de IA alimenta sentimentos de alucinações de IA
O Google introduziu o AI Overviews, um recurso que gera resumos de conteúdo de sites e os exibe na página de resultados de pesquisa do Google. Poucos dias após o lançamento, o recurso exibia uma ampla gama de imprecisões, pois baseava suas respostas em fontes incorretas. Um acontecimento que alimenta ainda mais a sensação de que a inteligência artificial é propensa a alucinações e pode gerar informações factualmente incorretas.
Leia também: O Google limita as visões gerais de IA para consultas satíricas e sem sentido
Resultados de pesquisas relacionadas à saúde que administram uma dose diária de pedra ou pedem aos usuários que comam pizzas pegajosas geraram uma reação negativa. AI Overviews cita fontes como a Organização Mundial da Saúde, WebMD, PubMed e Mayo Clinic. No entanto, eles não estão limitados a essas fontes. Analistas dizem que a ferramenta extrai informações do Reddit, Wikipedia, diversos blogs e sites de comércio eletrônico.
Hema Budaraju, diretora sênior de gerenciamento de produtos do Google, disse que existem barreiras adicionais para questões relacionadas à saúde, mas se recusou a revelar mais detalhes. Hema acrescentou que algumas consultas não acionam visões gerais de IA, por exemplo, se o sistema detectar uma situação de automutilação.
O Google disse que o AI Overviews se integra ao Google Knowledge Graph, uma base de conhecimento que contém dados extraídos de diferentes fontes, mas não forneceu detalhes sobre os sites que suportam a saída do recurso de pesquisa assistida por IA.
O Google mostra mais visões gerais de IA para consultas de saúde
Os resultados tradicionais, muitas vezes chamados de “dez links azuis”, foram úteis para os usuários porque podiam distinguir entre fontes médicas confiáveis e links pagos ou sites menos confiáveis. Com o AI Overviews, o cenário mudou. Agora, um único bloco de texto mostra informações coletadas de diversas fontes, o que os analistas consideram confuso.
Kate Knibbs da Wired disse em um podcast :
“Se você digitar algo sobre asma ou eu tiver diabetes ou basicamente se você estiver procurando por algo relacionado a doenças, é muito provável que ainda hoje veja uma visão geral da IA. Quero dizer, isso não é todo mundo; ainda é cerca de 63%. E acho que depende."
Alguns médicos, como o Dr. Dariush Mozaffarian , dizem que as visões gerais da IA mostram alguns fatos corretos e os resumem em respostas, mas não diferenciam entre evidências de estudos observacionais e ensaios randomizados.
Outra camada de desinformação é adicionada quando o recurso confunde as informações. Por exemplo, “o chá verde contém antioxidantes e ajuda a prevenir o câncer”. Embora o primeiro seja verdadeiro, o último não foi clinicamente comprovado. Quando tais alegações são listadas em conjunto, dão a falsa impressão de que são credíveis.
O Google tem visões gerais limitadas de IA
As pessoas que observam a implementação da IA aconselham cautela ao abordar os resultados de pesquisas de IA relacionadas à saúde. Eles dizem que os usuários devem considerar as letras miúdas de algumas respostas que dizem: “Isso é apenas para fins informativos”. O relatório do NYTimes observou que a IA generativa está em fase experimental e os usuários devem consultar médicos em qualquer condição grave.
Leia também: As principais atualizações do algoritmo do Google e as visões gerais de IA estão reduzindo o tráfego dos editores
Em comunicado de 30 de maio, o Google disse que reduziu o uso de visões gerais de IA em algumas categorias. Dados de uma empresa de SEO, a Brightedge, confirmam a posição do Google, sugerindo que o corte começou antes mesmo do anúncio da empresa.
Outros relatórios também afirmam que o Google começou a reverter as visões gerais de IA para certas categorias antes mesmo de os internautas começarem a zombar delas por causa de respostas absurdas. No entanto, afirma-se que a categoria Saúde continua a apresentar um elevado número de visões gerais de IA. Knibbs diz:
“Falei com outros pesquisadores de SEO que descobriram que o setor de saúde ainda estava produzindo muitas visões gerais de IA.”
Knibbs diz que testou algumas consultas relacionadas à saúde e encontrou resultados diferentes poucas horas depois de tentar, o que mostra que o Google está trabalhando para melhorar os resultados. Ela disse: “OK, eles estão tentando. Não sei se eles estão fazendo um trabalho bom o suficiente, mas definitivamente estão tentando.
Reportagem criptopolitana de Aamir Sheikh