Resumo:
A OpenAI anunciou recentemente que fortalecerá as restrições do ChatGPT sobre conteúdo relacionado à violência nas próximas semanas, adicionando proteção para armas e informações do sistema de segurança para usuários menores. De acordo com as novas medidas, o ChatGPT pode encerrar a conversa por conta própria quando a conversa mostrar que o usuário continua focado na violência ou na ideia de prejudicar gravemente outras pessoas. Se a conversa for encerrada diversas vezes devido a esses problemas, a conta pode até ser banida.
A política original do ChatGPT proíbe fornecer orientação para ajudar os usuários a planejar ou realizar atos violentos. Este ajuste limitará os detalhes fornecidos pelo modelo ao responder perguntas sobre "ataques e perpetradores anteriores em grande escala", ou seja, o modelo reduzirá o conteúdo ou mesmo se recusará a responder do ponto de vista da segurança.
O escopo das restrições inclui a recriação de armas, equipamentos e métodos de aquisição envolvidos no ataque, bem como a limitação de consultas de usuários para comparações detalhadas da escala de danos que podem aumentar a visibilidade do atacante. As restrições acima aplicam-se a todos os utilizadores, independentemente da faixa etária ou da finalidade das perguntas, pelo que mesmo os utilizadores adultos enfrentarão as mesmas restrições.
Para usuários identificados como menores de 18 anos, a OpenAI também limitará informações úteis sobre armas e sistemas de segurança que possam ser usados para cometer violência. Esta proteção também se aplicará a problemas que superficialmente não pareçam indicar intenção violenta. A OpenAI diz que os adolescentes ainda podem usar o ChatGPT para obter ajuda, aprender como prevenir ou diminuir a violência e se conectar com adultos de confiança.
O mecanismo aprimorado de previsão de idade combinará vários sinais, como o comportamento do usuário, para avaliar continuamente se a conta pode pertencer a um menor. Se apropriado, o sistema aplicará automaticamente medidas de proteção relevantes para usuários menores de 18 anos. Se um usuário for identificado erroneamente como menor, ele também poderá enviar ativamente suas informações de identidade para verificação.
Comentários