Depois de ser questionado pela investigação britânica do “Guardian”, o Google removeu a função AI Overviews de algumas páginas de resultados de pesquisa médica relacionadas à função hepática. Uma investigação do The Guardian apontou que a visão geral da IA do Google fornecia informações potencialmente enganosas ao responder a certas questões de saúde, levantando preocupações sobre a segurança de seus cenários médicos.
De acordo com um relatório anterior do The Guardian, quando um usuário pergunta “qual é a faixa normal para exames de sangue do fígado”, a visão geral da IA fornecida pelo Google apresentará diretamente um conjunto de valores sem distinguir entre fatores importantes como nacionalidade, sexo, raça e idade. Os especialistas temem que este intervalo de referência "tamanho único" possa levar alguns usuários a acreditar erroneamente que os resultados dos seus testes são normais, atrasando assim o tratamento médico ou ignorando riscos potenciais.
No desenvolvimento mais recente, o Guardian disse que o Google removeu as visões gerais de IA dos resultados de consultas relacionadas, como “intervalo normal de exames de sangue do fígado” e “intervalo normal de testes de função hepática” (qual é o intervalo normal para testes de função hepática). No entanto, a investigação também descobriu que pequenas variações no mesmo tipo de perguntas, como inserir “intervalo de referência LFT” ou “intervalo de referência de teste LFT”, ainda podem desencadear respostas resumidas geradas por IA.
Os repórteres do TechCrunch testaram-no horas depois da publicação do último relatório do Guardian e descobriram que o módulo AI Overviews não aparecia mais na página de resultados de pesquisa para a pergunta original ou suas variações. Em vários testes, o Google ainda fornecerá uma entrada para “fazer perguntas no modo IA”, mas os resultados da pesquisa padrão são principalmente links tradicionais. O primeiro resultado de muitas das perguntas é o relatório do Guardian sobre a remoção da própria visão geral da IA pelo Google.
Em relação ao comportamento específico de remoção, o Google disse ao Guardian que a empresa não comentaria sobre “casos de remoção individuais” na pesquisa, mas continuaria a “fazer grandes melhorias”. Um porta-voz do Google também revelou que uma equipe interna de médicos revisou as consultas relevantes citadas pelo Guardian e acredita que “em muitos casos, as informações não são imprecisas e são apoiadas por sites de alta qualidade”.
O Google foi abordado para mais comentários sobre este assunto. O relatório recorda que no ano passado, o Google anunciou uma série de melhorias destinadas a optimizar a experiência de pesquisa em cenários médicos, incluindo o reforço da apresentação geral das pesquisas de saúde e a introdução de modelos de IA mais especializados relacionados com a saúde.
Vanessa Hebditch, diretora de comunicações e política do British Liver Trust, disse ao Guardian que a remoção da visão geral relevante da IA pelo Google foi uma “boa notícia”. Mas ela também enfatizou que a maior preocupação é que o mundo exterior está atualmente “criticando um único resultado de pesquisa, e o Google pode estancar rapidamente o sangramento desativando a visão geral da IA de consultas individuais, mas isso realmente não tocou na questão geral da visão geral da IA de saúde”.