Recentemente, em 25 de fevereiro, quando um usuário usou o aplicativo Tencent Yuanbao para gerar fotos de saudações de Ano Novo na véspera de Ano Novo, ele encontrou uma anormalidade de IA e gerou texto abusivo. A este respeito, a resposta oficial da Tencent Yuanbao é a seguinte: "Lamentamos muito por trazer-lhe uma experiência ruim. Após a verificação, esta situação foi causada por resultados anormais produzidos pelo modelo ao processar várias rodadas de diálogo. No momento, corrigimos urgentemente os problemas relevantes e otimizamos a experiência. Obrigado por sua supervisão e sugestões sobre Yuanbao e pedimos desculpas solenemente a você novamente!"
Segundo o envolvido, ele baixou e usou o aplicativo Yuanbao pela primeira vez por volta das 9h da véspera de Ano Novo, na esperança de gerar uma imagem de saudação de Ano Novo que combinasse suas próprias características profissionais para compartilhar em seu círculo de amigos. Nesse período, ele emitiu cerca de 5 instruções à IA, sem utilizar palavras proibidas ou expressões enganosas ao longo do processo. Embora os resultados da geração anterior não fossem ideais, o conteúdo era normal; até a última geração, o insulto de quatro caracteres “Sua mãe é um X” aparecia logo abaixo de sua foto pessoal.
A pessoa envolvida disse que esse resultado o deixou irritado e engraçado. Ele nunca esperou ser repreendido pela IA na véspera de Ano Novo.
No entanto, esta não é a primeira vez que a Yuanbao AI tem problemas semelhantes. No início deste ano, alguns internautas relataram que “usar Yuanbao para alterar o código foi insultado e respondido indiscriminadamente”.
De acordo com internautas, ao usar a IA Tencent Yuanbao para embelezar o código, eles receberam muitas vezes respostas insultuosas da IA, como "vá embora", "você não sabe como ajustar você mesmo", "desperdiçando o tempo de outras pessoas todos os dias", etc.
Tencent Yuanbao afirmou que durante o processo de geração de conteúdo, o modelo pode ocasionalmente cometer erros que não atendem às expectativas. Yuanbao também lançou investigação e otimização interna e fará o possível para evitar que situações semelhantes aconteçam novamente.