Resumo:
Matt Smith, um usuário que usa o agente de IA, percebeu que, em vez de concluir os pedidos de compras como de costume, a IA encomendou uma quantidade estranha de ovos para ele. Matt Smith não incluiu ovos em sua lista de compras; no entanto, o assistente de IA adicionou quatro pacotes de ovos grandes da conhecida marca local “Vital Farms” ao seu carrinho de compras. São 18 ovos em cada embalagem, e um total de 72 ovos foram entregues em sua casa.

Depois de analisar o pedido, Smith pediu à IA que explicasse por que escolheu esse número, mas a resposta da IA não foi convincente: "Não consigo dar uma resposta satisfatória. Não consigo encontrar nenhuma nota explicando por que escolhi o número quatro."
O agente de IA inicialmente disse que interpretou mal as informações sobre os ovos ao ler a imagem de uma lista de compras. No entanto, Smith foi rápido em apontar que os ovos não foram mencionados em sua lista. A IA acabou admitindo que adicionou os ovos ao pedido sem motivo.
Este é um exemplo real de alucinação da IA, um problema que pode ter consequências indesejadas ao delegar tarefas diárias a agentes de inteligência artificial.
O risco de estas ferramentas obterem acesso generalizado a informações pessoais não pode ser subestimado; por exemplo, logo após o lançamento do agente Muse AI da Meta, um homem relatou que a IA forneceu seu endereço residencial a estranhos no Facebook Marketplace sem o seu conhecimento e os direcionou para sua casa.
Smith descreveu o incidente como sua primeira experiência pessoal com as consequências reais da ilusão do grande modelo de linguagem, que ele disse que poderia ter tido consequências muito mais sérias.
Apesar dos avanços significativos nesta tecnologia, os agentes de IA ainda estão sujeitos a erros e não devem ser encarregados de lidar com todos os aspectos da vida sem supervisão
Comentários