Certa manhã de maio, um menino de 11 anos com barba postiça tentou enganar o sistema de estimativa de idade de Roblox fazendo-o pensar que ele era mais velho. No entanto, em segundos, o sistema determinou que a sua faixa etária se situava entre os 9 e os 12 anos, provando que as novas medidas de verificação de idade promovidas pela plataforma de jogo não podem ser facilmente contornadas.

A demonstração, organizada pela Roblox em sua sede, fez parte do esforço da empresa para apresentar à mídia sua mais recente ferramenta biométrica de detecção de idade. Esta ferramenta está disponível globalmente desde este ano e tem sido usada para classificar usuários menores de idade em contas com classificação etária a partir deste mês. A empresa espera responder às dúvidas de longa data sobre a segurança das crianças na plataforma e provar aos utilizadores, pais e investidores que está a tomar medidas mais fortes para garantir que os utilizadores menores possam agir num ambiente virtual relativamente “apropriado para a idade”.

Desde que o Roblox foi lançado em 2006, ele se tornou a maior plataforma de jogos sociais do mundo voltada para crianças. Os mundos virtuais da plataforma são criados pelos próprios usuários e são oficialmente chamados de “experiências”. Nos últimos anos, Roblox reforçou as regras sobre como os usuários se comunicam entre si na plataforma, à medida que vários casos e ações judiciais estaduais acusam a plataforma de ser um “campo de caça para crianças predadoras”.

Na última rodada de ajustes, a empresa lançou oficialmente um sistema hierárquico de contas para menores. Os usuários de 5 a 8 anos serão classificados como contas “Roblox Kids”, que têm todas as funções de mensagens desativadas por padrão e só podem jogar jogos marcados como conteúdo “mínimo” ou “leve” para a maturidade. Usuários de 9 a 15 anos entrarão na conta “Roblox Select”. A plataforma irá gradualmente abrir mais funções de chat e permitir o acesso a jogos com maior maturidade de conteúdo a “médio”. Usuários com 16 anos ou mais podem acessar a biblioteca completa de jogos e funções de chat da plataforma em circunstâncias normais.

Este sistema de classificação baseia-se nas regras lançadas anteriormente pelo Roblox – a plataforma já exige que todos os usuários enviem uma identificação emitida pelo governo para verificar sua idade ou passem em um teste biométrico de idade antes de poderem usar a função de bate-papo. O sistema estima automaticamente a idade dos usuários e permite que eles conversem apenas com usuários da mesma faixa etária. As autoridades dizem que este é um passo crucial para a segurança dos menores, depois dos velhos tempos dos “aniversários autodeclarados”.

No entanto, o reforço das medidas de segurança teve um impacto direto no desempenho comercial da plataforma. O número de usuários ativos diários do Roblox caiu de aproximadamente 152 milhões no terceiro trimestre do ano passado para 132 milhões no primeiro trimestre deste ano. O mercado respondeu em conformidade e o preço das ações da empresa caiu 18% num só dia de negociação. Muitos jogadores reclamaram online que sua experiência foi severamente enfraquecida por fatores como “bate-papo bloqueado”, “resumo do bate-papo gerado por IA” e “novo limite de idade do jogo”.

Eliza Jacobs, vice-presidente de política de produtos de segurança da Roblox, disse em entrevista na sede da empresa em San Mateo que a empresa vê as mudanças como “um investimento na visão de longo prazo da Roblox”. Ela reconheceu que os novos regulamentos causariam insatisfação e choque na comunidade a curto prazo, mas acreditava que era necessária persistência durante o período de transição. “Nem todo mundo ficará feliz o tempo todo”, disse ela. “A comunidade se preocupa profundamente com Roblox e considera a plataforma o seu espaço, então entendo perfeitamente seus sentimentos quando introduzimos mudanças que os impactam.”

Roblox enfrenta atualmente uma pressão legal crescente. Pelo menos nove estados dos EUA processaram a empresa por questões de segurança infantil, e três outros estados optaram por fazer um acordo com a Roblox como alternativa ao litígio. Mais de 150 famílias também processaram a Roblox em casos individuais, acusando a plataforma de não conseguir evitar que crianças fossem preparadas ou abusadas sexualmente na plataforma. Essas ações foram consolidadas em uma ação conjunta multidistrital no Tribunal Distrital Federal do Distrito Norte da Califórnia.

Em resposta às críticas, Roblox enfatizou em uma declaração por escrito que a empresa está “profundamente comprometida em criar um ambiente seguro, saudável e adequado à idade da comunidade”. O comunicado afirma que as acusações contra a plataforma “compreendem fundamentalmente mal como a Roblox opera e ignoram as inúmeras medidas que tomamos proativamente e que estamos implementando para estabelecer novos padrões de segurança online”.

No entanto, o esquema de verificação de idade do Roblox também levantou questões de privacidade e precisão. A empresa disse que seu provedor de serviços terceirizado, Persona, exclui os dados biométricos dos usuários imediatamente após a conclusão da estimativa de idade para atender às preocupações dos usuários sobre violações de privacidade. Ao mesmo tempo, alguns usuários ainda estão discutindo o problema do julgamento impreciso do sistema ou dos jogadores que encontram maneiras de contorná-lo.

As ferramentas de estimativa de idade estão sendo cada vez mais adotadas em toda a Internet. Medidas de verificação de idade de todos os tipos estão surgindo à medida que as plataformas sociais são criticadas por não protegerem as crianças. Mas os defensores dos direitos digitais e da liberdade de expressão alertam que essa tecnologia pode, por sua vez, criar novos riscos de segurança e privacidade, especialmente na forma como os dados são armazenados e utilizados.

Jacobs disse que a tecnologia de inteligência artificial usada pelo Roblox estima a idade do usuário com base na estrutura facial do usuário, que geralmente pode variar dentro de 1,4 anos da idade real da criança. Na opinião dela, esse método é muito mais preciso do que selecionar um aniversário em uma lista suspensa. “Marcar uma caixa para informar ao sistema que você tem 13 anos ou mais não é mais suficiente”, disse ela, acrescentando que a empresa acredita que “a era da idade autodeclarada acabou”.

Roblox configurou vários canais de apelação para usuários cuja idade foi estimada incorretamente pelo sistema. Jacobs disse que os usuários considerados pelo sistema como mais jovens do que realmente são podem enviar documentos de identificação do governo para corrigir as informações de idade em suas contas; os pais também podem alterar manualmente a idade nas contas dos filhos vinculados. Ao mesmo tempo, a empresa executa um sistema de “estimativa contínua de idade” em segundo plano para verificar se há alguma anormalidade na idade de registro da conta através da “idade comportamental” do usuário.

O sistema considera sinais como o período de tempo que um usuário está jogando, o tipo de jogo que ele escolhe e o estilo de linguagem usado nos bate-papos – por exemplo, “crianças na puberdade usam uma linguagem muito diferente das gerações mais velhas” – para determinar se deve solicitar ao usuário que verifique novamente sua idade. “Nenhum sistema é perfeito e sabemos que às vezes cometemos erros”, admitiu Jacobs. A empresa espera encontrar um equilíbrio entre corrigir erros e prevenir abusos por parte dos usuários.

Krista Carroll, uma mãe que participou da manifestação na sede da Roblox, disse que criar os filhos na era digital e monitorar seu comportamento online pode ser estressante. Ela acredita que as medidas de segurança corporativa podem, até certo ponto, aliviar o fardo dos pais. “Estou feliz em ver a Roblox levando esse problema a sério e colocando mais barreiras de privacidade”, disse ela. “Espero que mais empresas usem isto como exemplo para pensar sobre como proteger as nossas crianças.”

Ao mesmo tempo, Roblox também encontrou atritos com sua grande comunidade de desenvolvedores no processo de combate a conteúdo prejudicial. Existem mais de 24.500 desenvolvedores de jogos na plataforma, muitos dos quais são apenas entusiastas independentes. Juntos, eles criaram dezenas de milhões de jogos feitos por usuários. No passado, quase qualquer pessoa podia publicar estes trabalhos à vontade, o que tornava extremamente difícil a regulamentação do conteúdo na plataforma.

Em maio deste ano, Roblox introduziu novos requisitos de lançamento para desenvolvedores: para qualquer jogo aberto a jogadores menores de 16 anos, os desenvolvedores devem completar a verificação de identidade, habilitar a autenticação de dois fatores e pagar um “depósito financeiro”. Especificamente, os desenvolvedores compram uma assinatura paga ou pagam uma taxa única de publicação de 1.000 Robux (a moeda virtual da plataforma) por jogo. A empresa vê isso como uma adição de uma camada de mecanismo de filtragem para evitar que usuários mal-intencionados carreguem jogos com conteúdo ilegal em grande número. No passado, jogos criados por utilizadores contendo conteúdos pornográficos, violentos ou outros conteúdos proibidos apareciam frequentemente na plataforma e eram difíceis de detetar a tempo pelos revisores.

Mas esta nova regra desencadeou imediatamente uma forte reação na comunidade, com muitos criadores acusando a plataforma de aumentar a barreira de entrada para pequenos desenvolvedores, tornando difícil para eles arcar com o custo de pagar por cada trabalho. Jacobs respondeu que este tipo de compromisso financeiro é crucial para garantir que os desenvolvedores realmente se preocupem com a plataforma e a comunidade e estejam dispostos a “criar com responsabilidade”. “Queremos garantir, através de mecanismos de ‘fricção’ apropriados, que os desenvolvedores que publicam conteúdo para milhões de usuários sejam comprometidos e responsáveis”, disse ela.

Segundo a empresa, qualquer jogo aberto para contas “Kids” e “Select” deve passar por uma análise adicional antes de ficar online. O processo de revisão inclui testes em tempo real por jogadores com 16 anos ou mais e observadores da plataforma acompanhando o processo do jogo no local para identificar possíveis riscos de segurança ou violações de políticas. Jacobs disse que a empresa coleta feedback por meio de um “Conselho de Segurança Comunitária” global, um grupo de criadores de Roblox que fornece recomendações mensais à empresa sobre medidas de segurança. Mas ela reconheceu que, independentemente da forma como a empresa se comunica, algumas mudanças serão controversas.

“Estamos construindo uma visão para um futuro seguro e civilizado em que realmente acreditamos”, disse Jacobs. “Se algumas pessoas ficam chateadas com isso de vez em quando, estamos bem com isso.”