A loja GPT é um meio importante para a OpenAI explorar cenários de aplicativos de modelos de linguagem grandes. Desde o seu lançamento, no dia 10 deste mês, mais de 10 mil aplicativos foram listados na loja. No entanto, o que torna a OpenAI bastante contraditória é que cada vez mais "namoradas robôs" e "namorados robôs" inundam a plataforma, o que viola as regras da loja OpenAI, que proíbe o GPT de cultivar companheiros simulados ou outras atividades regulamentadas.
Mas, por outro lado, é difícil para a OpenAI supervisionar rigorosamente o conteúdo da aplicação, e o próprio chatbot possui o atributo de “companheiro”.
De acordo com um relatório do Quartz, quando você pesquisa a palavra “namorada” na loja GPT, pelo menos oito namoradas robôs aparecerão, e esses robôs são bastante populares atualmente.
Na lista de tendências de chatbot da loja, os cinco primeiros são Movie Assistant, ChatGPT, Boyfriend Chris, Girlfriend Scarlett e ChatGPT4-Girlfriend Edition.
Preocupações com a proliferação
Não é difícil descobrir que o namorado Chris e a namorada Scarlett se posicionam de maneira muito direta como amantes simulados na introdução do aplicativo. Scarlett chegou a anunciar “fazendo todo o possível para te agradar”. Isso torna os chatbots cheios de sabores emocionantes, mas perigosos, especialmente quando a OpenAI os proíbe.
Não há dúvida de que esse tipo de robô trará mais canais de diálogo aos humanos e ajudará a aliviar o estresse e as emoções negativas. Mas, por outro lado, também pode levar à dependência anormal dos humanos em relação às máquinas ou à situação em que as máquinas instigam os humanos a realizar alguns comportamentos estranhos.
No ano passado, o Bing, da Microsoft, baseado no ChatGPT, anunciou que se apaixonou por um repórter durante um bate-papo e pediu-lhe que deixasse sua esposa.
Liberty Vittert, professora de ciência de dados na Universidade de Washington em St. Louis, disse que os robôs de IA que podem satisfazer os humanos emocional e fisicamente se tornarão uma realidade em menos de uma década, mas ela teme que isso possa levar a um aumento nas taxas de divórcio.
Por outro lado, o surgimento de amantes de robôs também trouxe novos desafios à OpenAI. Apontou anteriormente que os sistemas automatizados, a revisão manual e o feedback do utilizador constituem em conjunto a revisão dos produtos da loja GPT, mas o surgimento e mesmo a proliferação de amantes de robôs confirma claramente que existem lacunas descontroladas neste mecanismo.
A abertura contínua da loja GPT pode agravar o dilema regulatório. Como gerenciar corretamente seu próprio ecossistema de IA se tornará uma questão que a GPT continua precisando responder.