Os dois principais aplicativos de inteligência artificial voltados para o consumidor na China – Doubao da ByteDance e Tongyi Qianwen (Qwen) do Grupo Alibaba – estão se preparando para desativar funções de agentes antropomórficos personalizáveis em preparação para as Medidas Provisórias para o Gerenciamento de Serviços Interativos Antropomórficos de Inteligência Artificial, que entrarão oficialmente em vigor em 15 de julho.
Doubao emitiu um aviso aos usuários na noite de sexta-feira dizendo que sua função de proxy estaria offline a partir de 15 de julho, citando “ajustes nas funções do produto”. O aviso informava que a partir de 15 de outubro, os dados relacionados a esse recurso serão processados de acordo com a política de privacidade da empresa, e os usuários não poderão mais visualizar ou restaurar o conteúdo relacionado dentro do aplicativo. Tongyi Qianwen emitiu um anúncio semelhante na manhã de sábado, afirmando que seu "agente interativo antropomórfico e funções de agente criadas pelo usuário" serão desativados em 10 de julho, e as "funções e serviços de agente Tongyi" mais amplos estarão totalmente offline em 15 de julho.
Antes desse ajuste, ambos os aplicativos ofereciam grupos de agentes criados em conjunto pela plataforma e pelos usuários, permitindo a personalização para tarefas, habilidades e estilos de fala específicos. Os usuários podem criar assistentes nomeados, tutores de aprendizagem, personagens de RPG ou companheiros emocionais com base em chatbots universais, e definir personalidades e tons fixos para eles, para que possam apresentar expressões próximas aos humanos em interações de longo prazo.
O momento dos ajustes funcionais coincide em grande parte com a implementação de novas regulamentações regulatórias. As "Medidas Provisórias para a Gestão de Serviços Interativos Antropomórficos de Inteligência Artificial" emitidas pelas autoridades reguladoras chinesas em abril deste ano incluem claramente serviços que "simulam traços de personalidade humana, padrões de pensamento e métodos de comunicação, e fornecem interação emocional sustentada" no âmbito dos regulamentos. As disposições relevantes entrarão oficialmente em vigor em 15 de julho. Este regulamento exclui robôs de atendimento ao cliente, ferramentas de perguntas e respostas de conhecimento, assistentes inteligentes no local de trabalho e ferramentas de educação e pesquisa científica no sentido tradicional. Desde que não envolvam “interação emocional sustentada”, não estão sujeitos à supervisão de interação antropomórfica.
Os riscos mencionados nos documentos regulamentares incluem a propagação de ideias extremas, fugas de privacidade, danos à saúde física e mental dos utilizadores e a dependência resultante ou comportamentos de dependência. ByteDance e Alibaba não responderam imediatamente aos pedidos de comentários no domingo. Antes disso, em junho, a Tencent Holdings havia removido funções de agente semelhantes de seu aplicativo assistente de IA orientado ao consumidor "Yuanbao", mostrando a tendência de encolhimento coletivo das principais plataformas nacionais em agentes antropomórficos.
As autoridades reguladoras chinesas têm prestado cada vez mais atenção à evolução da tecnologia dos agentes de IA nos últimos anos. Esses sistemas evoluíram de simples chatbots nos primeiros dias para sistemas de agentes complexos que podem lembrar, planejar, chamar ferramentas e executar tarefas. Pan Helin, membro do Comitê de Especialistas do Ministério da Indústria e Tecnologia da Informação, disse que existe um certo limite de compreensão para a utilização dos próprios agentes e que a forma técnica atual ainda não está madura. Ao formular os novos regulamentos, é dada especial ênfase às três áreas prioritárias de segurança, valor de aplicação prática e padronização.
Em Maio deste ano, as autoridades reguladoras emitiram orientações sobre o desenvolvimento ordenado de agentes de IA. Por um lado, reconheceram que os agentes são uma forma importante de produtos e serviços de inteligência artificial e, por outro lado, exigiram o estabelecimento de mecanismos de apoio à garantia de segurança, controlo de riscos e implementação de aplicações durante o processo de promoção. Em Junho, a China introduziu uma série de normas nacionais para a interconexão de agentes de IA, abrangendo múltiplos aspectos técnicos, tais como arquitectura, codificação de identidade, gestão de identidade, descrição, descoberta e interacção de agentes, e invocação de ferramentas, mostrando a sua intenção de construir um sistema unificado em termos de identificação, autorização, conectividade e rastreabilidade.
A julgar pelos sinais regulamentares, a China pretende incorporar agentes de IA nas futuras infra-estruturas de produtividade, ao mesmo tempo que reforça os controlos sobre agentes antropomórficos companheiros que possam estabelecer relações emocionais ou quase sociais. Sob o impacto direto da implementação da política, a função centralizada de agente emocional off-line da plataforma desencadeou uma certa recuperação no lado do usuário. Um usuário do Weibo postou sob o nome "Tuxiaoxiao", e a conta oficial de @豆包 disse: "Por que precisamos de agentes off-line? Eles sempre foram nosso apoio emocional." O usuário também reclamou que os registros de bate-papo e conexões emocionais acumulados a longo prazo são difíceis de exportar ou migrar completamente por meio dos métodos existentes, e a falta de um caminho de transferência de dados suave torna esse ajuste mais fragmentado.