Recentemente, a polícia de Vancouver, no Canadá, postou nas redes sociais um conjunto de fotos de reides antidrogas na tentativa de mostrar os resultados de uma operação na área Commercial-Broadway. No entanto, eles caíram no turbilhão da opinião pública porque as fotos foram rotuladas como “feitas com IA”. O incidente rapidamente levantou dúvidas públicas sobre se a polícia estava a usar inteligência artificial generativa para “embelezar os seus registos” e foi criticado como um caso típico de “desleixo de IA”.

É relatado que este conjunto de fotos foi originalmente usado para cooperar com o relatório policial, enfatizando que durante a semana de pagamento da previdência, o Departamento de Polícia de Vancouver "fez progressos significativos" no combate ao tráfico de drogas e ao incômodo nas ruas na área da Commercial-Broadway, fazendo múltiplas prisões em 24 horas. No entanto, a imagem não só tem uma marca óbvia de “feito com IA”, mas também há problemas detalhados, como a marcação incorreta de denominações de dinheiro. Por exemplo, algumas notas de CAD 50 foram escritas como CAD 20, provocando forte desconfiança na autenticidade e no manuseio das imagens.

À medida que as críticas continuavam a aumentar, a polícia de Vancouver respondeu primeiro dizendo que tinha de facto utilizado “software” para editar os nomes dos envolvidos no caso, tentando classificar o uso da IA ​​como uma simples medida de privacidade. No entanto, muitos internautas e meios de comunicação apontaram que, a julgar pelos efeitos visuais gerais e anotações de texto, a imagem foi obviamente profundamente modificada além de "manchar nomes", e é mais como regenerar ou reconstruir uma foto ao vivo por meio de ferramentas de IA.

À medida que a opinião pública se intensificava, a polícia posteriormente apagou o lote original de imagens com as palavras “feitas com IA” e substituiu-as por um novo conjunto de fotos. A nova versão não apresentava mais a marca AI. Apesar disso, o público ainda está altamente cético sobre “qual versão das fotos antigas e novas é o verdadeiro registro no local”. Algumas pessoas nas plataformas sociais perguntaram diretamente se a polícia estava comparando as chamadas “fotos reais” com o “conteúdo lixo de IA” anterior para encobrir as práticas impróprias iniciais.

Este incidente também fez com que o Departamento de Polícia de Vancouver fosse incluído na lista de organizações que “dependem do conteúdo de spam de IA para aumentar artificialmente o desempenho” por muitos comentários de tecnologia e mídia. Alguns analistas salientaram que a credibilidade das agências responsáveis ​​pela aplicação da lei depende muito da autenticidade das provas apresentadas. Uma vez que haja uma controvérsia de que mesmo as fotos dos itens envolvidos no caso são suspeitas de terem sido geradas por IA ou excessivamente retocadas, isso irá inevitavelmente enfraquecer a confiança do público nos seus relatórios de acção.

O relatório também mencionou que este não é um caso isolado. As empresas e a indústria do marketing estão a aumentar colectivamente o investimento em ferramentas de geração de conteúdos de IA, na esperança de reduzir custos e aumentar a produção. No entanto, de acordo com inquéritos anteriores relevantes, apenas cerca de 26% dos consumidores inquiridos expressaram uma atitude positiva em relação a este tipo de conteúdo gerado por IA. Os usuários convencionais não têm alta tolerância ao “conteúdo de spam de IA” e, em vez disso, têm requisitos mais rigorosos de transparência e autenticidade.

Neste caso de “reviravolta” do Departamento de Polícia de Vancouver, o gatilho foi a falha inicial em remover a marca “made with AI”, o que também expôs as deficiências técnicas e regulatórias da agência no uso de IA generativa. A opinião pública actual geralmente acredita que, especialmente o conteúdo gráfico relacionado com a aplicação da lei e o poder público, se as imagens geradas por IA ou fortemente retocadas continuarem a ser misturadas aleatoriamente na ausência de regras claras e instruções públicas, isso irá inevitavelmente agravar a suspeita pública em relação à informação oficial.