De acordo com notícias de 7 de junho, foi solicitado a várias forças policiais em Inglaterra e no País de Gales que deixassem de utilizar ferramentas de IA para preparar declarações judiciais e documentos de justiça criminal, porque erros nos resultados relevantes afetarão a fiabilidade dos procedimentos legais subsequentes. De acordo com reportagem do Financial Times de 5 de junho, o pedido foi feito por Alex Murray, chefe do trabalho de IA da polícia britânica.

Murray também é diretor da Agência Nacional do Crime e chefe de assuntos de IA do Conselho Nacional de Chefes de Polícia (NPCC). O Reino Unido acaba de anunciar em Janeiro deste ano que investirá 115 milhões de libras para construir um centro nacional de IA da polícia para promover uma utilização mais unificada da IA ​​pelas 43 forças policiais em Inglaterra e no País de Gales.

Os materiais judiciais não podem depender apenas da “verificação pré-apresentação”

O que está a ser interrompido desta vez são os materiais que entrariam no processo de justiça criminal, incluindo declarações judiciais e documentos de casos relacionados. Para os policiais, os relatórios escritos por IA parecem economizar tempo; mas para testemunhas, arguidos e procuradores, o problema é que estas palavras podem tornar-se a base para julgar se os factos e procedimentos do caso estão em conformidade.

Se a IA escrever factos inexistentes, confundir prazos ou resumos erróneos em materiais, e o pessoal subsequente utilizar este material para organizar o caso, preparar declarações de provas, ou submetê-las ao tribunal, o erro já não será apenas uma “sentença errada”, mas poderá espalhar-se ao longo da cadeia de tratamento do caso. A chamada “verificação da saída da IA” neste tipo de cenário também é difícil de resolver com um único aviso: o verificador deve verificar cada fato e cada citação, ou apenas julgar se o texto está correto? Se a resposta for fazer tudo de novo, o tempo economizado pela IA será compensado.

O British Crown Prosecution Service (CPS) emitiu uma declaração de ética em matéria de IA, sublinhando que as ferramentas de IA devem ser utilizadas sob supervisão humana, com especial ênfase na justiça, transparência e responsabilização. No entanto, quando os documentos policiais de primeira linha entram no processo penal, os limites da responsabilidade são mais sensíveis do que em ambientes de escritório normais: é necessário manter registos claros de quem escreveu os materiais, quem os verificou e quem é responsável pelos erros.

A partida de futebol fictícia de janeiro deste ano soou o alarme

A polícia britânica tornou-se cautelosa quanto aos riscos dos documentos de IA, o que não é sem precedentes. Em janeiro deste ano, o ex-chefe de polícia de West Midlands, Craig Guildford, pediu desculpas ao Comitê Seleto de Assuntos Internos do Parlamento do Reino Unido por um material de inteligência contendo um erro de IA.

Este material mencionava que os torcedores do Maccabi Tel Aviv Football Club israelense (Maccabi Tel Aviv) tiveram conflitos com o West Ham United da Premier League, mas o jogo relevante não existia. O Guardian informou que Guildford admitiu que o erro resultou de conteúdo fictício gerado pela polícia usando o Microsoft Copilot.

Este incidente expôs que quando o conteúdo gerado pela IA é colocado em documentos formais de aplicação da lei ou de tomada de decisão pública, é difícil para os leitores externos julgar, a partir do texto, qual conteúdo foi originalmente verificado e qual é apenas uma representação secundária após a geração do modelo. Quando se trata de materiais judiciais, esta opacidade afetará diretamente os direitos das partes e a credibilidade do caso.

Os promotores da polícia de IA assumem a liderança na retirada dos links mais sensíveis

O governo britânico anunciou o Police AI Centre em janeiro deste ano com o objetivo de acelerar o estabelecimento de um mecanismo unificado de testes, treinamento e gestão. O NPCC disse na altura que o investimento de 115 milhões de libras ajudaria a polícia a resolver crimes mais rapidamente e esperava-se que libertasse cerca de 6 milhões de horas policiais por ano, o equivalente à carga de trabalho de cerca de 3.000 agentes da polícia a tempo inteiro.

Portanto, esta suspensão é mais como traçar um limite para o policiamento de IA: a IA pode ser usada primeiro para trabalho de back-end que seja de baixo risco, rastreável e fácil de revisar, como dessensibilização de dados, triagem preliminar de alarmes não emergenciais e classificação interna de informações; no entanto, os depoimentos judiciais e os documentos da justiça criminal são ligações de alto risco e não podem ser abrangidos apenas pela expressão “os seres humanos são os responsáveis ​​finais”.

Se você for testemunha, repórter, suspeito ou réu em um caso, os materiais de depoimento que você enfrenta devem vir de alguém que possa ser responsabilizado, e não de um conjunto de textos de IA cujo processo de geração seja difícil de restaurar posteriormente. É claro que é importante que a polícia poupe tempo na elaboração de relatórios, mas não à custa da redução da credibilidade dos materiais judiciais.

A suspensão do Reino Unido desta vez não será um caso isolado. Nos últimos dois anos, houve casos nos Estados Unidos, Canadá, Austrália e outros lugares onde os advogados citaram casos de IA artificial e os tribunais emitiram directrizes para a utilização da IA. Agora, o risco aumentou com o envio de documentos pelos advogados para os arquivos de casos subjacentes da polícia. A verdadeira dificuldade na entrada da IA ​​no sistema judicial não reside na qualidade da geração de texto, mas em saber se cada declaração que possa afetar os direitos de terceiros pode ser verificada, rastreada e responsabilizada.