Resumo:
De acordo com a WIRED, com a proliferação de conteúdo gerado por inteligência artificial, uma controvérsia em torno de “se os romances são escritos por humanos” está se espalhando na indústria editorial. Depois de se descobrir que um romance de terror tinha cerca de 78% do seu conteúdo possivelmente gerado por IA, e de a editora posteriormente ter retirado o seu plano de publicação, cada vez mais escritores começaram a preocupar-se: mesmo que a obra seja inteiramente criada por eles próprios, podem ser suspeitos de usar IA devido ao seu estilo de escrita, e podem até enfrentar boicotes e perdas de reputação.
Em março deste ano, o romance de terror "Shy Girl" tornou-se o foco desta polêmica. Tem havido muito ceticismo nas redes sociais de que o livro foi gerado principalmente pela IA. Posteriormente, a editora Hachette Book Group cancelou o plano de publicação do romance nos Estados Unidos e interrompeu a distribuição no mercado britânico.
A empresa de detecção de IA Pangram afirma que aproximadamente
78% do texto do livro foi gerado por IA
. No entanto, a autora do romance Mia Ballard nega usar IA para escrever. Ela disse que um editor fez alterações assistidas por IA em uma versão do livro publicada por ela mesma e disse que estava buscando uma ação legal."Wired" destacou que após este incidente, acusações semelhantes começaram a aparecer na indústria editorial. Um autor está sendo questionado depois de ganhar um prêmio de conto, enquanto outro está envolvido em uma controvérsia sobre escrita de IA depois que seu romance policial recebeu uma oferta multimilionária de uma editora. Ambos os homens negam as acusações.
O que preocupa ainda mais o escritor é que atualmente não existe um método geralmente aceito para provar que uma obra foi inteiramente criada por humanos.
A autora de best-sellers Andrea Bartz disse à "Wired" que após o incidente de "Shy Girl", ela percebeu quase imediatamente que isso poderia desencadear uma "caça às bruxas" contra os escritores.
“Qualquer pessoa pode acusar qualquer pessoa de usar IA.”
Assim que surgirem alegações, mesmo sem provas sólidas, o dano pode ter sido feito, disse ela.O próprio Baltz também é um dos principais demandantes no processo de direitos autorais contra a Anthropic. O processo acusou a Anthropic de baixar um grande número de livros protegidos por direitos autorais de sites piratas para treinar modelos de IA. A Anthropic concordou em pagar
US$ 1,5 bilhão
no ano passado Chegue a um acordo.Diante de dúvidas cada vez mais comuns sobre a escrita de IA, um grupo de empresas de tecnologia começou a lançar softwares projetados especificamente para comprovar o processo de criação de obras.
Ferramentas como Workings, Blindproof, Wintertext, Human Ink e ObraVera afirmam ser capazes de registrar o processo de digitação do autor, o histórico de modificação de documentos e até mesmo usar tecnologias como hash criptografado e carimbos de data e hora para gerar "impressões digitais" digitais para trabalhos escritos para ajudar os autores a fornecer registros criativos quando questionados.
No entanto, essas ferramentas não podem provar verdadeiramente que o trabalho não utiliza IA.
O cofundador e CEO da Pangram, Max Spero, destacou que mesmo que o software possa registrar completamente o processo de digitação, os usuários ainda podem inserir o conteúdo gerado por IA literalmente ou falsificar o processo de escrita com a ajuda de programas de digitação automática.
Além disso, os escritores muitas vezes criam de maneiras complexas. Eles podem alternar entre vários documentos, revisar rascunhos repetidamente ou gravar notas de voz por meio de seus telefones celulares. Esses processos são difíceis de serem totalmente registrados por um único software.
Os desenvolvedores do ObraVera também admitiram que sua tecnologia pode provar quando um determinado texto foi registrado e quem o enviou, mas não pode confirmar de forma independente se o texto foi gerado pela IA.
As próprias ferramentas de detecção de IA também são controversas.
A Pangram afirma que a taxa de falsos positivos de sua ferramenta no campo da escrita criativa é de apenas
0,01%
. Mas Mary Rasenberger, presidente-executiva da Authors Guild, disse que a associação ouviu falar de vários casos em que pessoas submeteram os seus próprios trabalhos manuscritos para teste, apenas para serem considerados como tendo sido gerados pela IA.Raxenberg acredita que exigir que os escritores forneçam evidências adicionais de que são autores humanos é um fardo irracional por si só. Ela enfatizou que a associação não apoia forçar os escritores a usar tais ferramentas e lembrou aos autores que não acusem facilmente seus pares de usarem IA.
A especialista do setor editorial Jane Friedman ressalta que é improvável que editoras e agentes literários aceitem universalmente sistemas de autenticação de autoria que exijam taxas adicionais ou sejam demorados. Mesmo que sejam estabelecidos padrões unificados, ainda é difícil evitar que os materiais de certificação sejam falsificados ou manipulados.
Essa desconfiança afetou a avaliação mercadológica da obra.
Baltz revelou que ouviu falar de escritores que receberam muitas críticas negativas no site de resenhas de livros Goodreads simplesmente porque seus trabalhos "parecem que foram escritos por IA". Alguns leitores chegaram a dizer que não estão dispostos a ler trabalhos publicados depois de 2022 porque temem que sejam misturados com conteúdo gerado por IA.
Ironicamente, o novo romance de Baltz, "Delete Your Account", programado para ser publicado em 2027, é baseado em IA generativa. Em seu livro, ela imitou deliberadamente as expressões de grandes modelos de linguagem para criar registros fictícios de bate-papo de IA e textos de marketing.
Agora, ela está começando a se preocupar com a possibilidade de que essas palavras que imitam deliberadamente a IA a tornem suspeita.
"O que devo fazer se algum conteúdo for considerado escrito por IA?"
Baltz disse."Wired" apontou que com o desenvolvimento contínuo de ferramentas de escrita de IA e tecnologia de detecção, a indústria editorial enfrenta um problema difícil de resolver:
Quando as máquinas estão cada vez melhores na imitação da escrita humana e as palavras humanas podem ser mal avaliadas pelas máquinas, como os escritores podem provar que seus trabalhos são de suas próprias mãos?
Comentários