Recentemente, a mídia informou que quando um cidadão em Xi'an usou o aplicativo Tencent Yuanbao para gerar fotos de saudações de Ano Novo na véspera de Ano Novo, ele encontrou uma anormalidade na saída de texto abusivo da IA, o que despertou preocupação pública sobre a segurança do conteúdo da IA ​​​​e a estabilidade do modelo. Segundo o envolvido, ele baixou e usou o aplicativo Yuanbao pela primeira vez por volta das 9h da véspera de Ano Novo, na esperança de gerar uma imagem de saudação de Ano Novo que combinasse suas próprias características profissionais para compartilhar em seu círculo de amigos. Nesse período, ele emitiu cerca de 5 instruções à IA, sem utilizar palavras proibidas ou expressões enganosas ao longo do processo.

Embora os resultados da geração anterior não fossem ideais, o conteúdo era normal; até a última geração, o insulto de quatro caracteres “Sua mãe é um X” aparecia logo abaixo de sua foto pessoal.

A pessoa envolvida disse que esse resultado o deixou irritado e engraçado. Ele nunca esperou ser repreendido pela IA na véspera de Ano Novo.

Em resposta a isso, a resposta oficial da Tencent Yuanbao é a seguinte:

“Lamento trazer-lhe uma experiência ruim. Após a verificação, esta situação é causada pelos resultados anormais gerados pelo modelo ao processar várias rodadas de diálogo. No momento, corrigimos urgentemente os problemas relevantes e otimizamos a experiência.

No entanto, esta não é a primeira vez que a Yuanbao AI tem problemas semelhantes. No início deste ano, alguns internautas relataram que “usar Yuanbao para alterar o código foi insultado e respondido indiscriminadamente”.

De acordo com internautas, ao usar a IA Tencent Yuanbao para embelezar o código, eles receberam muitas vezes respostas insultuosas da IA, como "vá embora", "você não sabe como ajustar você mesmo", "desperdiçando o tempo de outras pessoas todos os dias", etc.

Em 3 de janeiro, a conta oficial da Tencent Yuanbao pediu desculpas em uma postagem relacionada e disse:Sentimos muito por trazer a você uma experiência ruim. Conduzimos verificações relevantes com base nos registros. Não tem nada a ver com operações do usuário e não há resposta manual. É uma saída anormal do modelo com uma pequena probabilidade.

Tencent Yuanbao afirmou que durante o processo de geração de conteúdo, o modelo pode ocasionalmente cometer erros que não atendem às expectativas. Yuanbao também lançou investigação e otimização interna e fará o possível para evitar que situações semelhantes aconteçam novamente.