Recentemente, em entrevista à Vanity Fair, Kim Kardashian, que estuda para se tornar advogada, falou sobre sua amizade “tóxica” com o ChatGPT. Ela admitiu que devido a informações falsas fornecidas pelo ChatGPT, foi reprovada no exame porque confiou em seus conselhos.
“Eu uso o ChatGPT para obter aconselhamento jurídico – quando preciso saber a resposta a uma pergunta, tiro uma foto e a carrego”, disse Kardashian. "É sempre errado. Faz com que eu seja reprovado nos exames... e então fico bravo e grito: 'Você foi reprovado!'"
Como o ChatGPT às vezes pode criar “alucinações” que constituem informações em vez de admitir a incapacidade de responder, alguns advogados também foram penalizados ao usá-lo para redigir documentos legais por citar casos inexistentes. Na verdade, o ChatGPT não está programado para distinguir a autenticidade das informações, mas para prever a resposta mais provável a partir de grandes dados, portanto a resposta pode não ser precisa.
Kardashian disse que depois de ser reprovada no exame, ela tentaria “comunicar sentimentos” com o ChatGPT, mas isso foi em vão porque o ChatGPT não tem emoções. “Eu diria: 'Como você se sentiria se falhasse assim comigo e tivesse que descobrir as respostas para essas perguntas?' e me responderia: 'Trata-se apenas de aprender a confiar em seus instintos'."
Embora a IA não tenha emoções, cada um de nós tem os seus próprios sentimentos em relação a ela. “Costumo tirar capturas de tela e enviá-las para o bate-papo em grupo e dizer: ‘Olha como esse cara fala comigo!'” Kardashian riu.