Resumo:
De acordo com relatórios divulgados pela 404 Media, há um projeto chamado Project Lily em operação dentro da OpenAI: a OpenAI contrata centenas de revisores terceirizados de prompt word para ler manualmente as conversas entre usuários reais e o ChatGPT para melhorar a qualidade das respostas.
Existe um filtro de privacidade, mas ele não é completo o suficiente:
Em circunstâncias normais, o revisor de palavras não poderá ver o nome do usuário e a conversa será primeiro filtrada pelo filtro de privacidade para excluir informações pessoais. No entanto, a OpenAI também admite que o mecanismo de filtragem pode perder informações pessoais e que conversas curtas são particularmente propensas a problemas.
A interface de revisão geralmente também vem com um resumo da memória do usuário. O resumo da memória resumirá as perguntas, interesses e situações anteriores do usuário, etc. Às vezes, pode até inferir a localização do usuário através da memória. Os auditores geralmente veem a conversa completa com contexto.
O revisor avalia principalmente as respostas:
O trabalho foi descrito como mecânico e repetitivo, e os salários por hora foram relatados em mais de US$ 50. A principal função do revisor é pontuar as respostas, em vez de verificar os fatos. Por exemplo, o revisor precisa julgar se a resposta dada pelo modelo é relevante, se tem um sabor óbvio de IA, se há comportamento de pregação, se há abuso de expressões, se há comportamento de bajulação e se o modelo escreverá o modelo como uma pessoa com experiência de vida.
Quanto a saber se as respostas dadas pelo modelo contêm erros factuais, este não é o trabalho do auditor. Afinal, os auditores não são enciclopédias e não podem saber a verdade completa de todos os acontecimentos, por isso é normal que os usuários vejam respostas dadas pelo modelo que contenham erros factuais.
O modelo aprimorado habilitado por padrão é a chave para o compartilhamento de dados:
As versões gratuita, Plus e Pro do ChatGPT permitem o uso do chat para melhorar os produtos por padrão. Quando esta função estiver habilitada, o conteúdo do chat do usuário será autorizado à OpenAI para melhoria do produto. Os auditores terceirizados do Plano Lily para verificar o conteúdo das conversas são apenas um dos usos dos dados. Os dados serão naturalmente utilizados para outros fins, como continuar a treinar o modelo.
Muitos usuários usam o ChatGPT como confidente temporário, conversando sobre família, saúde e ainda mais assuntos particulares. Alguns revisores disseram que muitos usuários podem não saber que suas conversas podem ser lidas por pessoas reais, então pense se isso é algo assustador.
Comentários