Por que tantas empresas que dependem dos dados dos usuários para ganhar dinheiro parecem ter uma queda pela inteligência artificial? Se você perguntar à presidente da Signal, Meredith Whitaker, ela lhe dirá que é simplesmente porque “a inteligência artificial é uma tecnologia de vigilância”.

Subindo ao palco do TechCrunchDisrupt2023, Whittaker expôs sua visão de que a IA é amplamente inseparável do big data e tem como alvo a indústria de longa data de empresas como Google e Meta, menos focadas no consumidor, mas igualmente proeminentes empresas e empresas de defesa.

"Requer modelos de negócios de vigilância; é uma intensificação do crescimento da publicidade de vigilância que temos visto desde o final da década de 1990. Acredito que a IA é uma forma de consolidar e expandir os modelos de negócios de vigilância", disse ela. "Um diagrama de Venn é um círculo. Usar inteligência artificial também é uma forma de vigilância, certo? Você sabe, você passa por uma câmera de reconhecimento facial com um instrumento pseudocientífico de reconhecimento de emoções e ela gera dados sobre você que, com ou sem razão, dizem 'você está feliz, você está triste, você tem uma personalidade ruim, você é um mentiroso, etc.' Em última análise, estes são sistemas de vigilância que são comercializados para aqueles que têm poder sobre nós: os nossos empregadores, governos, controlo de fronteiras, etc., para fazer julgamentos e previsões que determinam o nosso acesso a recursos e oportunidades."

Ironicamente, salienta ela, os dados que sustentam estes sistemas são muitas vezes organizados e anotados pelos próprios trabalhadores a quem esses dados podem ser direcionados (uma etapa necessária no processo de montagem de conjuntos de dados de IA).

“Ao nível de informar a verdade fundamental sobre os dados, não há forma de criar estes sistemas sem trabalho humano – reforço da aprendizagem com feedback humano, que mais uma vez é apenas uma tecnologia que higieniza o trabalho humano instável”, explicou ela. "Milhares de trabalhadores são mal pagos, mas no geral o custo é elevado, e não há outra maneira de criar estes sistemas, absolutamente nenhuma outra maneira. De certa forma, o que estamos a ver é um fenómeno do Mágico de Oz, onde quando abrimos a cortina, não há muita inteligência por aí."

No entanto, nem todos os sistemas de IA e de aprendizagem automática são igualmente exploradores. Quando questionada se Signal usa alguma ferramenta ou processo de IA em seu aplicativo ou trabalho de desenvolvimento, ela confirmou que o aplicativo tem uma "maquete de dispositivo pequeno, mas não o desenvolvemos, usamos-o como parte do recurso de desfoque de rosto em nosso conjunto de ferramentas de edição de mídia. Na verdade, não é tão bom... mas pode ajudar a detectar rostos em fotos de multidão e desfocá-los para que, ao compartilhar essas fotos nas redes sociais, você não revele os dados biométricos privados das pessoas para Clearview e similares."

“Mas a coisa é... sim, é um ótimo uso da inteligência artificial, não nos permite apenas neutralizar toda a negatividade que estou jogando no palco?” ela acrescentou. "Claro, se este for o único mercado para reconhecimento facial... mas sejamos claros. O processo de desenvolvimento e implantação de tecnologia de reconhecimento facial é caro, e os incentivos económicos nunca farão deste o único uso."