O capitalista de risco DeedyDas postou no X uma foto de um recibo falso de uma churrascaria (real) de São Francisco que ele disse ter sido feito com 4o.
Outros conseguiram replicar resultados semelhantes, incluindo aqueles com manchas de comida ou bebida para torná-los mais autênticos:
O exemplo mais realista vem da França, onde um usuário do LinkedIn postou um recibo amassado gerado por IA de uma rede de restaurantes local:
O TechCrunch testou o 4o e gerou com sucesso um recibo falso de um Applebee's em São Francisco:
Vários sinais reveladores apontam para que seja uma falsificação. Primeiro, o total usa vírgula em vez de ponto final. Em segundo lugar, a matemática não bate com precisão. Modelos grandes ainda têm dificuldade em acertar a matemática básica, então isso não é surpreendente.
Mas não é difícil para os fraudadores corrigirem rapidamente alguns números usando software de edição de fotos ou dicas mais precisas.
É evidente que tornar tão fácil falsificar recibos abre enormes oportunidades para fraudes. Não é difícil imaginar que esta tecnologia possa ser utilizada por criminosos para “reembolsar” despesas completamente falsas.
A porta-voz da OpenAI, Taya Christianson, disse que todas as suas imagens incluem metadados indicando que foram produzidas pelo ChatGPT. Christianson acrescentou que a OpenAI “age” quando os usuários violam suas políticas de uso e que está “sempre aprendendo com o uso e feedback no mundo real”.
Quando questionado por que o ChatGPT permite que as pessoas gerem recibos falsos e se isso está de acordo com a política de uso da OpenAI (sem fraude). Christiansen respondeu que o “objetivo da OpenAI é dar aos usuários o máximo de liberdade criativa possível” e que os recibos falsos de IA poderiam ser usados em situações não fraudulentas, como “ensinar alfabetização financeira às pessoas” e criar obras de arte originais e publicidade de produtos.