Três dias depois de a Amazon lançar o Q, seu chatbot de inteligência artificial, alguns funcionários estão alertando sobre questões de precisão e privacidade. De acordo com documentos vazados obtidos pela Platformer, Q estava “tendo graves alucinações e vazando dados confidenciais”, incluindo locais de data centers da AWS, programas de descontos internos e recursos não lançados. Um funcionário rotulou o incidente como “sev2”, o que significa que foi grave o suficiente para que os engenheiros fossem chamados à noite e solicitados a trabalhar no fim de semana para corrigi-lo.
Os primeiros problemas de Q surgem num momento em que a Amazon enfrenta a percepção de que a Microsoft, a Google e outras empresas tecnológicas estão a ultrapassar a Amazon na corrida para construir ferramentas e infra-estruturas para tirar partido da inteligência artificial. Em setembro deste ano, a Amazon anunciou que investiria US$ 4 bilhões na startup de inteligência artificial Anthropic. Na terça-feira, na conferência anual de desenvolvedores da Amazon Web Services (Amazon Web Services), a Amazon lançou o Q, que é sem dúvida o mais destacado de uma série de novas iniciativas de inteligência artificial lançadas pela empresa esta semana.
Em comunicado, a Amazon minimizou a importância das discussões entre os funcionários.
"Alguns funcionários estão compartilhando feedback por meio de canais internos e do sistema de tickets, o que é uma prática padrão na Amazon. Esse feedback não identificou nenhum problema de segurança. Agradecemos todos os comentários que recebemos e continuaremos a ajustar o Q à medida que ele passa de um produto de pré-visualização para disponibilidade geral", disse o porta-voz.
Q agora está disponível como uma visualização gratuita. Os executivos da Amazon disseram no palco esta semana que inicialmente ela será capaz de responder às perguntas dos desenvolvedores sobre a AWS, editar o código-fonte e citar fontes. Ele competirá com ferramentas semelhantes da Microsoft e do Google, mas o preço será inferior ao da concorrência, pelo menos inicialmente.
Ao lançar o Q, os executivos da Amazon o consideraram mais seguro do que ferramentas voltadas para o consumidor, como o ChatGPT.
O CEO da Amazon Web Services, Adam Selipsky, disse ao New York Times que “as empresas estão proibidas de usar esses assistentes de inteligência artificial devido a questões de segurança e privacidade”. A este respeito, o New York Times informou que “Q construído pela Amazon é mais seguro e privado do que chatbots de consumo”.
Um documento interno sobre as alucinações e respostas incorretas de Q afirma: "O Amazon Q pode ter alucinações e retornar respostas prejudiciais ou inadequadas. Por exemplo, o Amazon Q pode retornar informações de segurança desatualizadas, colocando em risco as contas dos clientes. Os riscos descritos no documento são típicos de grandes modelos de linguagem, todos os quais retornam respostas incorretas ou inadequadas pelo menos algumas vezes."