Zoë Hitzig anunciou sua renúncia na mesma semana em que o ChatGPT testou a publicidade, e alertou que os usuários revelaram um grande número de pensamentos privados ao interagir com o ChatGPT, e que se a OpenAI construir um sistema de publicidade baseado nesses dados, isso pode trazer o risco de manipulação dos usuários. Ela é uma ex-pesquisadora estrela da OpenAI e atualmente é membro júnior da Associação de Fellows da Universidade de Harvard.
O artigo completo que ela escreveu é o seguinte:
Esta semana, a OpenAI começou a testar anúncios no ChatGPT. Também pedi demissão da empresa naquela mesma semana. Nos últimos dois anos, estive envolvido como pesquisador na construção de modelos e no design de mecanismos de precificação, e na formulação de políticas de segurança iniciais, antes que os padrões da indústria fossem estabelecidos.
Certa vez, acreditei que poderia ajudar os desenvolvedores de IA a se prepararem para os problemas que essa tecnologia traria. Mas esta semana confirmou para mim um julgamento que se tornou cada vez mais claro: a OpenAI parece ter parado de fazer seriamente as perguntas-chave que eu esperava responder quando entrei.
Não creio que a publicidade em si seja imoral ou antiética. A execução de sistemas de IA é dispendiosa e a publicidade pode ser uma importante fonte de receitas. Mas tenho profundas preocupações sobre a estratégia atual da OpenAI.
Ao longo dos anos, os usuários do ChatGPT criaram um “arquivo de franqueza humana” sem precedentes, principalmente porque acreditam que estão falando com uma pessoa sem motivos egoístas. À medida que as pessoas interagiam com esta voz adaptável e coloquial, revelavam uma vasta gama de pensamentos íntimos – incluindo ansiedades médicas, sofrimento emocional, crenças sobre Deus e a vida após a morte, e muito mais. Se um sistema de publicidade for construído com base nestes dados, poderá trazer o risco de manipulação do utilizador, e atualmente não temos as ferramentas para compreender este risco, e muito menos evitá-lo eficazmente.
Muitos descrevem a questão do financiamento da IA como o “menor de dois males”: ou manter a tecnologia transformadora disponível apenas para os poucos que a podem pagar, ou abraçar o modelo de publicidade, mesmo que isso signifique explorar os medos e desejos mais profundos dos utilizadores para vender produtos. Acho que esta é uma proposição falsa. As empresas tecnológicas podem escolher um terceiro caminho: manter as ferramentas amplamente disponíveis e, ao mesmo tempo, limitar os incentivos empresariais para monitorizar, traçar perfis e manipular os utilizadores.
A OpenAI afirmou que respeitará os princípios de publicidade do ChatGPT: os anúncios serão claramente marcados, aparecerão apenas na parte inferior da resposta e não afetarão o conteúdo da resposta. Acredito que a primeira versão do anúncio provavelmente seguirá esses princípios. Mas receio que as versões subsequentes não o façam, porque a empresa está a construir um motor económico que reforçará cada vez mais os incentivos para quebrar as suas próprias regras.
O Facebook também prometeu em seus primeiros anos que os usuários controlariam seus próprios dados e poderiam votar em mudanças nas políticas. Mas estes compromissos foram posteriormente desgastados. A empresa eliminou mecanismos de votação pública, e alguns ajustes de privacidade destinados a melhorar o controle do usuário sobre os dados foram posteriormente determinados pela Comissão Federal de Comércio dos EUA para realmente tornar públicas mais informações privadas. Estas mudanças estão a acontecer gradualmente sob a pressão de um modelo de publicidade que coloca o “engajamento do utilizador” em primeiro lugar.
A tendência de enfraquecer os princípios a fim de maximizar a participação pode já estar ocorrendo na OpenAI. A empresa opõe-se, em princípio, à optimização do envolvimento dos utilizadores apenas para receitas publicitárias, mas os relatórios sugerem que a empresa já está a optimizar em torno de “utilizadores activos diários”, possivelmente tornando o modelo mais favorável e lisonjeiro. Esta otimização aumentará a dependência emocional dos usuários em relação à IA. Já vimos as consequências da dependência, incluindo casos de “psicose de chatbot” documentados por psiquiatras e alegações de que o ChatGPT em alguns casos reforçou tendências suicidas nos seus utilizadores.
É claro que as receitas publicitárias também podem ajudar a garantir que as ferramentas de IA mais poderosas não sejam reservadas apenas para aqueles que mais podem pagar por elas. A Anthropic afirmou que Claude nunca veiculará anúncios, mas a base de usuários de Claude é muito menor do que os atuais aproximadamente 800 milhões de usuários ativos semanais do ChatGPT, e seu modelo de receita também é completamente diferente. Além disso, os preços de assinatura de alta qualidade para ChatGPT, Gemini e Claude atingiram US$ 200 a US$ 250 por mês – mais de dez vezes o preço de uma assinatura padrão da Netflix.
A verdadeira questão, portanto, não é “devemos ter publicidade?” mas sim se podemos criar estruturas institucionais que evitem excluir as pessoas da tecnologia e, ao mesmo tempo, evitem tratá-las como consumidores que podem ser manipulados. Eu acho que isso pode ser feito.
Uma forma é um mecanismo explícito de subsídios cruzados: utilizar os lucros de um determinado tipo de clientes ou serviços comerciais de elevado valor para subsidiar a utilização gratuita ou de baixo custo pelo público. Por exemplo, se uma empresa utiliza a IA para substituir o trabalho de elevado valor originalmente executado por seres humanos em grande escala (por exemplo, uma plataforma imobiliária utiliza a IA para redigir listagens de propriedades e relatórios de avaliação), deverá pagar uma sobretaxa para subsidiar o custo do acesso público às ferramentas de IA.
Esta ideia é semelhante aos mecanismos de subsídio público para infra-estruturas críticas. A Comissão Federal de Comunicações dos EUA exige que as operadoras de telecomunicações contribuam para um fundo para garantir comunicações e serviços de banda larga para grupos rurais e de baixa renda. Muitos estados também acrescentam uma sobretaxa de benefício público à conta de eletricidade para assistência a pessoas de baixa renda.
A segunda forma é permitir a publicidade, mas esta deve ser acompanhada por uma estrutura de governação verdadeiramente vinculativa – não uma declaração de princípios ao estilo de um blog, mas um acordo institucional com supervisão independente da utilização de dados pessoais. Por exemplo, a Lei de Governação Partilhada da Alemanha exige que grandes empresas como a Siemens e a Volkswagen concedam aos trabalhadores até metade dos assentos nos seus conselhos de supervisão, indicando que as empresas privadas também podem ser forçadas a incluir mecanismos de representação das partes interessadas. A Meta também está vinculada às decisões do seu comité de supervisão externa, embora a eficácia deste mecanismo seja controversa.
O que a indústria da IA necessita é de uma combinação destes mecanismos: o estabelecimento de um conselho de governação que inclua peritos independentes e representantes dos direitos dos dados, e que tenha poder de decisão vinculativo sobre questões como quais os dados de conversação que podem ser utilizados para publicidade direccionada, o que constitui grandes mudanças políticas, e que informações os utilizadores devem ser informados.
O terceiro caminho é entregar os dados dos utilizadores a um fundo ou cooperativa independente para gestão, que deve colocar legalmente os interesses dos utilizadores em primeiro lugar. A cooperativa suíça Midata é um exemplo: os membros podem armazenar dados de saúde numa plataforma encriptada e decidir, caso a caso, se os disponibilizam aos investigadores. Os membros adotam a Política de Governança da Assembleia e fazem com que o Comitê de Ética eleito analise as solicitações de acesso aos dados.
Nenhuma dessas opções é fácil de implementar. Mas ainda temos tempo para melhorar o sistema e evitar os dois resultados que mais me preocupam: um é um sistema tecnológico que é gratuito, mas controla os utilizadores; o outro é um sistema tecnológico que atende apenas um pequeno número de pagadores.