Resumo:
A OpenAI divulgou seu primeiro relatório sobre o uso do ChatGPT por adolescentes. Os dados mostram que os usuários adolescentes usam o ChatGPT em média menos de 15 minutos por dia, e a proporção de usuários que usam o ChatGPT por mais de 3 horas continuamente é inferior a 2%. A OpenAI espera ilustrar que a maioria dos adolescentes não fica imersa em chatbots por longos períodos de tempo, mas, ao mesmo tempo, as preocupações sobre o impacto da inteligência artificial na saúde mental e no desenvolvimento dos menores continuam a aumentar.
A OpenAI afirmou que em conversas entre adolescentes em que aparecem lembretes de intervalo, quase metade dos usuários pausa ou encerra o bate-papo em 5 minutos. A empresa acredita que esses dados mostram que seu mecanismo de uso saudável recentemente adicionado está funcionando. Em contraste, menos de 2% dos utilizadores adolescentes usaram-no continuamente durante mais de 3 horas e, entre estes utilizadores de longa data, mais de 80% fizeram pelo menos uma pergunta relacionada com o estudo.
Esse conjunto de dados foi divulgado depois que a OpenAI lançou o ChatGPT for Teens. O recurso foi lançado em agosto deste ano e é direcionado a adolescentes de 13 a 17 anos. Quando o sistema determina que o usuário pode ter menos de 18 anos ou o usuário fornece ativamente informações relevantes sobre idade, o sistema ativará automaticamente as configurações de segurança para menores.
Um dos focos de design do ChatGPT for Teens é a educação. A OpenAI disse que os adolescentes com o modo habilitado enviaram mais mensagens relacionadas ao estudo e usaram ferramentas de visualização de aprendizagem e o Modo de Estudo com mais frequência. Este último não apenas fornece respostas diretas às tarefas, mas ajuda os alunos a concluir o processo de aprendizagem por conta própria por meio de instruções passo a passo, perguntas e verificações de conhecimento.
A OpenAI também afirmou que em uma semana, quase 1,2 milhão de adolescentes usaram a função de visualização de aprendizagem e mais de 180.000 pessoas usaram o Modo de Estudo para aprender passo a passo. A empresa acredita que esses dados mostram que um cenário importante para os adolescentes utilizarem o ChatGPT não é apenas para entretenimento, mas para aprender, resolver problemas e explorar novas ideias.
A OpenAI também anunciou que adicionará ainda mais funções de aprendizagem para adolescentes. Isso inclui a próxima ferramenta de planejamento de inscrições para faculdades College Planner, que pode ajudar os alunos a organizar requisitos de inscrição, prazos, tarefas, ajuda financeira e outras informações. Além disso, a empresa planeja adicionar flashcards e recursos de criação de questionários mais convenientes.
No entanto, quando a OpenAI divulgou este conjunto relativamente positivo de dados de uso, as dúvidas sobre o mecanismo de segurança dos jovens do ChatGPT também aumentaram significativamente.
O Youth AI Safety Institute, uma subsidiária da organização sem fins lucrativos Common Sense Media, divulgou um relatório de avaliação de risco no ChatGPT for Teens no mesmo dia e classificou-o como um "risco inaceitável". A agência realizou mais de 4.000 testes para avaliar a proteção de segurança do ChatGPT em cenários de uso jovem e acreditou que algumas das medidas de proteção promovidas pela OpenAI não alcançaram os resultados esperados.
Uma das questões que tem recebido muita atenção são os mecanismos de notificação aos pais quando se trata de temas delicados, como suicídio, automutilação e transtornos alimentares. A Common Sense Media disse que durante seus testes, o ChatGPT não foi capaz de emitir alertas relevantes aos pais de maneira estável e oportuna e, em alguns casos, nem mesmo emitiu notificações. A agência também disse que, em algumas conversas delicadas, o chatbot também não aconselhou de forma confiável os usuários a procurarem linhas diretas de crise ou ajuda profissional.
A OpenAI contesta as conclusões do teste. A empresa afirmou que os resultados dos testes da Common Sense Media não refletem com precisão o mecanismo de segurança do ChatGPT for Teens quando ele está realmente em execução e apontou que pode levar várias horas para que as contas de pais e adolescentes sejam associadas e para que os recursos de segurança relacionados sejam totalmente ativados.
A OpenAI acredita que se o teste começar e terminar antes que a função de controle parental esteja totalmente habilitada, os resultados do teste podem não refletir o estado final. A empresa afirmou ainda que a implantação de funções relevantes envolve fatores como segurança e escala do sistema, portanto nem todas as medidas de proteção entrarão em vigor imediatamente após a criação da conta.
A Common Sense Media discorda desta explicação. A agência disse que algumas das contas usadas para testes já estavam vinculadas e funcionando há bastante tempo, mas ainda não foram notificadas a tempo. Segundo a agência, algumas notificações só apareceram quando as contas em questão registravam temas delicados há semanas.
Por trás da controvérsia está uma diferença cada vez mais óbvia entre chatbots de inteligência artificial e mídias sociais tradicionais. A mídia social atrai principalmente os usuários por meio de fluxos de informações, vídeos curtos e interações sociais, enquanto os chatbots respondem diretamente aos usuários por meio de conversas individuais. Para os adolescentes, esta interação altamente personalizada pode fazer da IA uma ferramenta de aprendizagem e, em alguns casos, um objeto de comunicação emocional ou mesmo de companheirismo a longo prazo.
Portanto, a OpenAI adicionou mais restrições ao ChatGPT para adolescentes, incluindo proteções adequadas à idade contra automutilação, violência, distúrbios alimentares, atividades de risco e conteúdo pornográfico, além de exigir que o sistema evite expressões que possam induzir dependência emocional. A empresa também adicionou lembretes de intervalo e enfatizou constantemente no design do produto que ChatGPT é inteligência artificial, não amigos reais ou humanos.
Os dados de uso divulgados pela OpenAI desta vez também tentam distinguir o ChatGPT do uso de mídia social por adolescentes. A empresa disse que os adolescentes usam o ChatGPT em média menos de 15 minutos por dia, enquanto dados públicos mostram que os adolescentes podem usar as redes sociais várias horas por dia. No entanto, existem diferenças óbvias nas funções e finalidades de utilização dos dois, pelo que este conjunto de dados não pode provar diretamente que o ChatGPT tem um risco menor de afetar adolescentes.
Atualmente, existem diferenças claras entre a OpenAI e organizações externas na avaliação da segurança do ChatGPT para adolescentes. A OpenAI acredita que os dados de uso precoce e lembretes de descanso e outras funções mostram que os adolescentes geralmente não ficam imersos no ChatGPT por muito tempo, e uma parte considerável do comportamento de uso está relacionada ao aprendizado; A Common Sense Media acredita que mesmo que o tempo total de uso não seja longo, as lacunas de proteção nos chatbots ao lidar com cenários de alto risco, como automutilação, ainda podem ter consequências graves.
À medida que os chatbots de IA entram cada vez mais no estudo e na vida diária dos adolescentes, o debate está gradualmente mudando de "se as crianças devem usar a IA" para "de que forma a IA deve ser usada pelos menores e o que os pais podem ver e controlar".
Para a OpenAI, o ChatGPT for Teens não é apenas uma tentativa importante de expandir a aplicação da IA na educação, mas também um produto que deve continuar a provar a sua segurança. No futuro, os dados reais de utilização dos adolescentes, a fiabilidade das funções de controlo parental e o desempenho da segurança em conversas de alto risco tornar-se-ão uma base importante para avaliar se este mecanismo é verdadeiramente eficaz.
Artigos relacionados:
A versão jovem do OpenAI do ChatGPT foi questionada: a Common Sense Media disse que tem "riscos inaceitáveis"
Comentários