O recurso “Visão geral de IA” lançado recentemente pelo Google na Pesquisa Google enfrentou críticas significativas. Os usuários postaram vários casos em que resumos de IA geraram respostas ilógicas ou incorretas a diversas pesquisas, sem opção de exclusão.
Leia também: Novas extensões do Chrome visam melhorar a experiência de pesquisa do Google
Exemplos recentes incluem conselhos duvidosos sobre práticas culinárias e recomendações de saúde, provocando uma onda de críticas e escárnio nas redes sociais.
Os usuários expõem as respostas falhas da visão geral da IA
O novo recurso, Visão Geral da IA, foi lançado há menos de duas semanas e foi projetado para fornecer breves visões gerais das perguntas feitas. Por exemplo, uma pesquisa sobre como limpar botas de couro pode fornecer instruções de vários sites. No entanto, os utilizadores relataram que a ferramenta pode fornecer conselhos incorretos e potencialmente perigosos.
Leia também: A nova pesquisa baseada em IA do Google prejudicará o tráfego do site, preocupando os editores?
Outro erro que a IA cometeu foi afirmar que “os Estados Unidos tiveram um presidente muçulmano, Barack Hussein Obama”, quando questionada sobre quantos presidentes muçulmanos os Estados Unidos tiveram.
Outra dica que pode causar sérios danos é usar cola na hora de fazer o molho de pizza para evitar que o queijo escorregue. Acontece que esta recomendação veio de um comentário do Reddit, levantando a possibilidade de a IA estar obtendo informações de fontes não confiáveis.
Outras recomendações ultrajantes incluíam a afirmação de que olhar para o sol é saudável e que as pessoas deveriam incorporar pedras na sua dieta todos os dias. Alguns dos problemas relatados incluem erros simples, como enumeração incorreta de frutas e cálculo incorreto de datas na história.
Atribuição incorreta obscurece fontes confiáveis
A AI Overview também foi criticada por confundir fontes confiáveis com informações incorretas. Por exemplo, ele afirmou:
“De acordo com o WebMD, os cientistas dizem que olhar para o sol por 5 a 15 minutos, ou até 30 minutos se você tiver pele mais escura, é geralmente seguro e oferece os maiores benefícios à saúde.”
Tais atribuições erradas podem prejudicar a reputação de instituições altamente conceituadas e são potencialmente perigosas para a população em geral. Quando questionado se a Pesquisa Google viola ou não a lei antitruste, a AI Overview respondeu:
“Sim, o Departamento de Justiça dos EUA e 11 estados estão processando o Google por violações antitruste.”
A porta-voz do Google, Meghann Farnsworth, disse que os erros vieram de “perguntas geralmente muito incomuns e não representam as experiências da maioria das pessoas”. Ela disse que os erros são encontrados em solicitações raras e que a empresa está trabalhando ativamente para corrigir violações da política de conteúdo. Mesmo com estas garantias, a reacção levanta questões sobre questões mais amplas relacionadas com a crescente adopção de tecnologias de IA.
Paralelos com o fiasco da ferramenta de imagem Gemini Emerge
A controvérsia sobre a Visão Geral da IA é semelhante aos problemas que a ferramenta de geração de imagens Gemini do Google enfrentou logo após seu lançamento em fevereiro devido às mesmas interpretações errôneas e resultados duvidosos. Alguns dos problemas destacados incluem deturpações da história e esboços inadequados para uso, o que levou o Google a parar de trabalhar na ferramenta e trabalhar em melhorias.
A competição no espaço de IA generativa é acirrada devido à presença de players como Google, Microsoft e Open AI. Espera-se que o mercado de ferramentas e agentes de IA atinja um tamanho superior a um trilhão de dólares americanos na próxima década. Essa intensa competição pode levar ao uso de tecnologias imaturas no mercado devido à pressão para lançamento de novos produtos.
Leia também: Google, OpenAI e 13 outros prometem não implantar modelos arriscados de IA
O Google é o mecanismo de busca mais popular do mundo e isso o torna muito vulnerável a críticas. Atualmente, o motor de busca da empresa domina mais de 90% da quota de mercado global, o que significa que a sua eficácia é crucial para a satisfação do utilizador e para o modelo de negócio da empresa.