Margaret Atwood, escritora canadiana e autora de "The Handmaid's Tale" e "The Blind Assassin", falou recentemente sobre inteligência artificial generativa (IA) no Festival Literário e Cultural Babell, no Porto, Portugal, e admitiu que não estava satisfeita com esta tecnologia. Em uma entrevista no local, Atwood relembrou sua única experiência usando um chatbot de IA. Ela tentou usar Claude da Anthropic para consultar informações sobre o drama policial britânico "Father Brown", mas descobriu que a outra parte tirou conclusões erradas, o que a fez questionar a confiabilidade dos grandes modelos de linguagem atuais.

Atwood disse que Claude estava claramente “inventando coisas” em suas respostas às perguntas. Ela ressaltou que isso não ocorre porque o sistema “mentiu intencionalmente”, mas porque é apenas um grande modelo de linguagem treinado em grandes quantidades de texto e que carece das capacidades reais de compreensão dos humanos. De acordo com sua descrição, Claude parecia "saquear e unir" informações de um grande número de críticas de TV e de filmes, mas as críticas geralmente não revelavam diretamente o final da trama, o que fez com que o modelo fosse "enganado" pelo treinamento corpus sobre os principais pontos da trama de "Padre Brown".

Além de criticar as próprias ferramentas de IA, Atwood também expressa insatisfação com quem se vicia nesse tipo de tecnologia. Ela chama esses usuários de “oportunistas”, acreditando que eles tentam pegar “atalhos” com a ajuda da IA ​​e “trapacear” de forma indetectável, em vez de investir o tempo e a energia necessários para verificar pessoalmente ou criar conteúdo. Na sua opinião, a tecnologia em si não pode substituir o julgamento e a responsabilidade humanos. Se a produção de conteúdo for totalmente entregue a máquinas não verificadas, o risco acabará por ser suportado pelos próprios humanos.

Atwood enfatizou que os atuais modelos de grandes linguagens dependem fortemente de materiais de rede publicados e de dados de texto rastreados. Essas informações podem estar desatualizadas, tendenciosas ou até erradas. Ela lembrou, portanto, que tanto os utilizadores comuns como as instituições que os utilizam para fins comerciais não devem considerar os resultados gerados por máquinas como a "autoridade final", mas devem realizar a revisão manual e a verificação dos factos. Ela salientou que muitas empresas estão a integrar a IA nos processos empresariais, mas mesmo para melhorar a eficiência, devem aceitar a realidade de que estes sistemas cometerão erros e a qualidade dos resultados depende em grande parte da fiabilidade e integridade dos dados de entrada.

Quando se trata das questões fundamentais da IA ​​generativa, Atwood resume sua abordagem com um simples ditado tecnológico: “Entra lixo, sai lixo”. Ela acredita que se os dados de treinamento em si forem falhos ou consistirem em conteúdo da Internet não filtrado, não importa quão complexa seja a estrutura do modelo e a enorme escala de parâmetros, ela não poderá resolver fundamentalmente o problema de erros e preconceitos. Para ela, não se trata apenas de uma questão sobre a confiabilidade da tecnologia, mas de uma reflexão mais ampla sobre a criatividade, a originalidade e o papel do escritor humano.

No final da conversa, Atwood lembrou mais uma vez ao público que as máquinas não são executores perfeitos como os robôs, muito menos seres humanos com moral e experiência, mas apenas um conjunto de ferramentas para ler e reorganizar texto. Ela defende que nos campos da criação, da crítica e da produção de conhecimento as pessoas precisam manter a vigilância e o senso de responsabilidade para evitar que a busca pela verdade e pelo rigor seja sacrificada pela “conveniência” prometida pela tecnologia.