PimEyes, um mecanismo de busca público que usa reconhecimento facial para comparar fotos de pessoas online, foi agora banido de menores devido a preocupações com a segurança pessoal das crianças, de acordo com o The New York Times. Pelo menos em teoria. O novo sistema de detecção do PimEyes, que usa IA de detecção de idade para identificar se um rosto é de uma criança, ainda está em desenvolvimento. Depois de testá-lo, o New York Times descobriu que ainda era difícil identificar se a pessoa fotografada era uma criança em determinados ângulos, e a IA não conseguia detectar com precisão se um adolescente era um adulto.
O CEO da PimEyes, Giorgi Gobronidze, disse que a empresa planeja implementar tais medidas de proteção desde 2021. Mas depois que o escritor do New York Times Kashmir Hill publicou um artigo na semana passada sobre a ameaça que a IA representa para a segurança pessoal das crianças, o recurso foi finalmente totalmente implantado.
Hill escreveu no artigo que o serviço baniu mais de 200 contas por fazerem pesquisas inadequadas para crianças. Uma mãe disse a Hill que ela até descobriu fotos de seus filhos que nunca tinha visto usando PimEyes antes. Para saber de onde vieram as imagens, a mãe teve que pagar uma assinatura de US$ 29,99/mês.
PimEyes é apenas um dos mecanismos de reconhecimento facial do mundo atualmente sob escrutínio por violação de privacidade. Em janeiro de 2020, a investigação de Hill no New York Times revelou como centenas de organizações policiais usaram um mecanismo de reconhecimento facial chamado Clearview AI com pouca supervisão.
Daly Barnett, especialista em tecnologia da Electronic Frontier Foundation, disse ao The Intercept no ano passado: “Este é apenas mais um exemplo de um grande problema geral em tecnologia, quer ela tenha capacidade de vigilância ou não”. Ele também criticou a falta de medidas de proteção infantil do PimEyes na época: "[PimEyes] não criou proteções de privacidade desde o início e os usuários têm que optar por não ter sua privacidade comprometida."