A última pesquisa australiana mostra que é difícil para as pessoas comuns distinguir com segurança os rostos gerados pela inteligência artificial dos rostos reais. Mesmo para um pequeno número de pessoas conhecidas como “superreconhecedores”, a vantagem não é óbvia. Os investigadores alertam que esses rostos sintéticos altamente realistas podem representar sérios desafios à autorização de segurança e à verificação de identidade, uma vez que as pessoas muitas vezes têm excesso de confiança na sua capacidade de identificar outras pessoas.

A pesquisa foi conduzida em conjunto por equipes de psicologia da Universidade de Nova Gales do Sul (UNSW Sydney) e da Universidade Nacional Australiana (ANU), e o artigo foi publicado no British Journal of Psychology. A equipe de pesquisa apontou que os “rostos sintéticos de IA” de hoje podem até ser mais “reais” na percepção subjetiva do que fotos de retratos reais, e dados experimentais relevantes fornecem suporte para esse julgamento.

James Dunn, pesquisador da Escola de Psicologia da UNSW, disse que as pessoas há muito acreditam que poderiam reconhecer rostos falsos gerados por IA de relance. Os primeiros sistemas de IA geravam frequentemente imagens distorcidas, deformadas e imperfeitas, mas com o rápido desenvolvimento de modelos generativos, tornou-se extremamente fácil criar um rosto extremamente realista.

No experimento específico, as duas universidades recrutaram um total de 125 participantes, incluindo 36 sujeitos identificados como “superreconhecedores” e 89 participantes comuns como grupo de controle. Todos completaram o mesmo teste on-line: rostos reais e rostos gerados por IA foram apresentados aleatoriamente na tela, e os participantes foram solicitados a julgar se cada um era “real” ou “sintético”.

Os resultados mostraram que o desempenho de julgamento das pessoas comuns era apenas ligeiramente melhor do que o nível aleatório das pessoas "cegas", enquanto os "superreconhecedores" tinham pontuações globais mais elevadas, mas as suas vantagens eram muito limitadas. O que é ainda mais irónico é que, independentemente da sua capacidade de reconhecimento, todos os participantes tinham igualmente uma confiança elevada na sua “capacidade de ver através de rostos falsos da IA”, indicando um excesso de confiança significativo.

A pesquisa aponta que os rostos modernos gerados pela IA não estão mais tão cheios de falhas óbvias como eram nos primeiros dias. Os "traços de algoritmo" típicos, como fundos desfocados, órgãos ausentes e proporções estranhas de características faciais, aparecem cada vez menos. Posteriormente, os riscos potenciais destas caras falsas extremamente confusas estão a acumular-se rapidamente em cenários como fraude online, falsificação de identidade e ataques de engenharia social, e tanto indivíduos como instituições podem ser prejudicados como resultado.

A professora associada da ANU, Amy Dawel, aponta que os rostos falsos de IA de hoje “não se revelam porque algo está terrivelmente errado, mas porque são bons demais”. Em vez de dizer que são anormais, é melhor dizer que são “muito normais”: o rosto é altamente simétrico, os traços faciais são bem proporcionados e as características gerais estão na “média” no sentido estatístico. Eles parecem agradáveis ​​​​e "agradáveis ​​​​aos olhos". Ela enfatizou que esse tipo de características de aparência “anormalmente perfeitas” e “muito medianas” podem ser consideradas como um sinal de perigo potencial gerado pela IA, e pessoas com super habilidades de reconhecimento facial podem ser mais capazes de capturar esses padrões sutis.

O próximo plano da equipe de pesquisa é analisar melhor em quais pistas perceptivas esses "detectores de rostos falsos de super IA" dependem, a fim de promover a melhoria das ferramentas técnicas de detecção automática e estratégias de reconhecimento em massa. Atualmente, a UNSW lançou o teste online “UNSW Face Test” em seu site oficial, que inclui uma versão demo gratuita dos recursos de reconhecimento de rosto falso de IA. Os usuários comuns também podem avaliar seu próprio nível de reconhecimento.

Depois de participar pessoalmente do teste, o autor do artigo descobriu que identificou corretamente 12 rostos falsos de IA em 20 rostos duas vezes. De acordo com as instruções oficiais, espera-se que esse resultado seja classificado como “superreconhecedor”, enquanto a pontuação média dos participantes comuns é de cerca de 20/11. À medida que as imagens geradas pela IA continuam a melhorar, uma vantagem tão pequena é suficiente para realçar o fosso crescente entre a tecnologia e a perceção humana.