De acordo com o Wall Street Journal, a OpenAI demitiu um executivo de segurança que se opôs ao lançamento de controverso conteúdo adulto de IA em seu produto ChatGPT, alegando discriminação de gênero. Segundo pessoas familiarizadas com o assunto, a OpenAI demitiu a executiva Ryan Beiermeister no início de janeiro deste ano, quando ela acabava de retornar de uma licença. A OpenAI informou-a de que o despedimento estava relacionado com a sua discriminação sexual contra um colega do sexo masculino.
Beymeister foi demitido
Beymeister emitiu um comunicado dizendo: “As acusações de que discrimino outras pessoas são completamente falsas”.
Um porta-voz da OpenAI disse em comunicado que Bemerst “fez contribuições valiosas durante sua gestão e sua saída não está relacionada a quaisquer questões levantadas durante seu tempo na empresa”.
Bemerst ingressou na OpenAI em meados de 2024 como vice-presidente da equipe de políticas de produtos OpenAI, que é responsável por formular as regras para os usuários usarem os produtos da empresa e auxiliar no projeto do mecanismo de aplicação dessas políticas. Sua demissão ocorre antes do lançamento planejado da OpenAI de um modo adulto no início deste ano, que permitirá aos usuários criar conteúdo adulto de IA no ChatGPT.
O recurso planejado, que permitiria que usuários adultos tivessem conversas com temas adultos que incluíssem temas sexuais, atraiu críticas de pesquisadores internos da empresa que estudaram como algumas pessoas desenvolvem apegos prejudiciais a chatbots, segundo algumas pessoas familiarizadas com o assunto. Eles propuseram,O conteúdo sexual pode exacerbar o apego emocional de algumas pessoas aos personagens de IA que consideram companheiros.
Os membros do conselho consultivo de “Bem-estar e IA” da OpenAI também expressaram objeções ao modo adulto e instaram a empresa a reconsiderar os planos de lançamento do recurso, disseram pessoas familiarizadas com o assunto.
O CEO da OpenAI, Sam Altman, defendeu a decisão de expandir o escopo do conteúdo permitido na plataforma, dizendo que a mudança é parte de um esforço para “tratar os usuários adultos como adultos”.
Antes de ser demitida, Bemerst disse aos colegas que se opunha ao modo adulto e estava preocupada que o recurso pudesse ter efeitos prejudiciais aos usuários, segundo pessoas familiarizadas com o assunto. Ela salientou aos colegas que acreditava que os mecanismos da OpenAI para prevenir conteúdos de exploração infantil não eram suficientemente eficazes e que a empresa não estava a bloquear adequadamente o acesso dos jovens a conteúdos adultos.
Ela foi um dos vários funcionários da OpenAI que expressou preocupação sobre o lançamento de um modo adulto, disseram pessoas familiarizadas com o assunto.
OpenAI atrai mais de 800 milhões de usuários para o ChatGPT todas as semanas à medida que cria IA de última geração. A empresa agora planeja monetizar esse tráfego de usuários por meio de publicidade.
A OpenAI tem monitorado de perto os concorrentes e declarou status de “alerta vermelho” em dezembro devido ao sucesso e crescimento inesperados do chatbot Gemini do Google. Outro concorrente, a xAI, descobriu que a adoção de uma política de restrição mais flexível sobre conteúdo sexual em seu chatbot Grok aumentou efetivamente o envolvimento do usuário.