Embora a Microsoft promova vigorosamente seus produtos de inteligência artificial para consumidores e empresas e integre profundamente o Copilot no Windows 11, ela posiciona este serviço de IA como “uso de entretenimento” em documentos oficiais. Os Termos de Uso do Microsoft Copilot, atualizados em outubro do ano passado, afirmam claramente que este modelo de linguagem grande (LLM) é “apenas para fins de entretenimento” e os usuários não devem usá-lo para fornecer conselhos importantes e fazê-lo por sua própria conta e risco.
Esta declaração contrasta fortemente com a recente publicidade da Microsoft em torno do Copilot+ PC e usuários corporativos, levantando questões sobre sua confiança.
Nos termos de uso, a Microsoft escreveu: "O Copilot é apenas para fins de entretenimento. Ele pode cometer erros e não funcionar conforme o esperado. Não confie no Copilot para obter conselhos importantes. Use o Copilot por sua própria conta e risco." O relatório apontou que isenções de responsabilidade semelhantes não são exclusivas da Microsoft, e outros grandes provedores de serviços de modelo de IA também adotaram declarações semelhantes. A xAI, por exemplo, lembra aos usuários em seus termos de serviço que a inteligência artificial está “evoluindo rapidamente e de natureza probabilística”, portanto o conteúdo gerado pode ser “alucinatório”, conter conteúdo ofensivo, não refletir com precisão pessoas ou fatos reais, ou até mesmo ser completamente inapropriado para o uso pretendido pelo usuário.
Embora tenha sido comprovado que a IA generativa melhora a eficiência em cenários como a escrita e a programação, ainda é apenas uma ferramenta que carece de um sujeito responsável e não pode suportar quaisquer consequências legais ou práticas pelos seus próprios erros. Portanto, os usuários devem ter cautela ao confiar em seus resultados, ser céticos em relação aos resultados e fazer verificações cruzadas. No entanto, o relatório lembra também que mesmo que os utilizadores estejam conscientes destas limitações técnicas, os humanos ainda são suscetíveis à influência do “viés da automação”, ou seja, estão naturalmente mais inclinados a acreditar nas respostas dadas pelas máquinas e a ignorar dados ou pistas contraditórias.
O risco deste viés de automação é ainda mais amplificado no contexto atual, onde o conteúdo gerado pela IA se torna cada vez mais natural e parece mais “real”. O artigo apontou que quando a IA pode fornecer respostas logicamente consistentes e autorizadas na superfície, é mais fácil para os usuários acreditarem nelas "apenas de relance", relaxando assim invisivelmente sua vigilância. Neste caso, por um lado, os fabricantes encorajam os utilizadores a adoptar amplamente a IA no trabalho e na vida através de anúncios e integração de produtos, mas por outro lado, utilizam isenções de responsabilidade padronizadas em termos de utilização para cortar responsabilidades. Essa tensão também se tornou um fenômeno controverso no atual desenvolvimento da indústria de IA.