Recentemente, quando alguns internautas usaram Doubao para procurar Li Yuanhong, uma figura da República da China, apareceu uma foto do ator Fan Wei em Photoshop.Este incidente oolong pode parecer divertido, mas na verdade expôs as lacunas de autenticidade da IA ​​no reconhecimento de imagens e na recuperação de informações. Muitos internautas reclamaram que a IA não era suficientemente rigorosa e cometeu erros de entretenimento na recuperação de figuras históricas graves, afetando a precisão da aquisição de informações.

Segundo a explicação oficial, o erro originou-se de um mal-entendido espalhado na Internet: Li Yuanhong e Fan Wei são muito parecidos na aparência. A imagem paródia do PS durante o casting de “A Fundação do Partido” em 2010 foi amplamente divulgada, muito mais amplamente do que as fotos históricas reais. Algumas galerias de fotos e enciclopédias foram incluídas por engano, fazendo com que a prioridade de pesquisa da IA ​​correspondesse a esta imagem composta altamente popular.

Tais erros na IA são essencialmente uma manifestação típica de ilusão de informação.

Especialistas apontam que grandes modelos dependem do aprendizado de dados de rede e não têm capacidade de autoverificação. Quando informações erradas aparecem repetidamente na rede, a IA facilmente as apresenta como resultados corretos, resultando em uma situação de "sério absurdo".

É difícil eliminar completamente as alucinações com a tecnologia atual, e a taxa de erro só pode ser reduzida otimizando as fontes de dados e melhorando a verificação de recuperação.

Este incidente também desencadeou discussões entre os internautas sobre a confiabilidade da IA. Algumas pessoas ridicularizaram se as pesquisas por outras figuras históricas levariam a erros semelhantes. Alguns usuários também compartilharam suas experiências de serem enganados por informações errôneas de IA e pediram a melhoria da precisão do conteúdo de IA.

Actualmente, plataformas relevantes estão a optimizar a lógica de pesquisa, dando prioridade à divulgação de imagens de materiais históricos fidedignos para reduzir a interferência da desinformação na Internet.