Uma pequena empresa britânica está com problemas financeiros e jurídicos depois que seu assistente de bate-papo com inteligência artificial prometeu a um cliente um desconto de 80% em um pedido grande. O chefe da empresa disse que o cliente passou cerca de uma hora conversando com o assistente de IA, durante a qual testou os cálculos matemáticos do assistente e aos poucos conduziu a conversa para a questão dos descontos em pedidos hipotéticos.
O cliente agradeceu as capacidades do robô e então o assistente de IA fez algo que ninguém esperava. Originalmente, só tinha de responder às questões dos clientes fora do horário de trabalho, mas “gerou por iniciativa própria um código de desconto inexistente”, oferecendo primeiro um desconto de 25% e depois aumentando o desconto para 80%.
Depois de receber esta “torta caindo do mundo”, o usuário ficou em êxtase e imediatamente fez um pedido de mais de 8.000 libras (aproximadamente RMB 72.000). Os chefes dizem que a empresa sofrerá perdas de milhares de libras se a ordem for honrada. A empresa tentou cancelar o pedido, mas o cliente disse que entraria com uma ação no Juizado de Pequenas Causas caso a empresa não cumprisse as promessas do robô.
O chefe disse que o chat AI está funcionando com sucesso há mais de 6 meses, sem surpresas e não tem autoridade para tomar decisões financeiras. Todos os descontos e ofertas especiais devem ser aprovados manualmente e não podem ser gerados automaticamente. No final das contas, o pedido foi totalmente reembolsado ao cliente e a empresa se recusou a reconhecer que o código de desconto falso era válido.