Resumo:
Um detetive sênior da polícia britânica está sob investigação independente por supostamente usar indevidamente o assistente de inteligência artificial Copilot da Microsoft durante uma investigação criminal. O incidente levantou mais uma vez preocupações sobre os limites da aplicação da inteligência artificial na aplicação da lei e sobre a segurança de dados sensíveis.
O policial sênior da Polícia de Derbyshire está enfrentando uma investigação por suposta má conduta grave, de acordo com o Escritório Independente de Conduta Policial (IOPC). A investigação foi lançada em agosto deste ano, depois que a Polícia de Derbyshire apresentou voluntariamente um relatório de situação ao regulador em 23 de junho, após concluir uma revisão interna.
A investigação vai além de tarefas básicas de escritório, como o uso de inteligência artificial para verificar ortografia e gramática. As acusações relacionadas afirmavam que o policial era suspeito de usar o Microsoft Copilot para participar na tomada de decisões políticas, avaliar e gerenciar riscos e usar IA para fornecer razões e bases para a tomada de decisões durante a investigação de casos criminais. Além disso, ele é acusado de inserir no sistema informações operacionais sensíveis e dados pessoais envolvidos no caso.
Na verdade, o Departamento de Polícia de Derbyshire aprovou que os policiais usassem o Microsoft Copilot já em maio de 2025 para melhorar a eficiência do trabalho. O escopo da autorização inclui principalmente questões administrativas, como redação de relatórios, organização de documentos e resumo de informações. No entanto, a polícia também estipula claramente que nenhum dado móvel, informação sensível e dados pessoais podem ser introduzidos em ferramentas de IA.
Emily Barry, diretora de engajamento do Escritório Independente de Conduta Policial, disse: "Essas alegações são de natureza séria e devem ser sujeitas a uma investigação completa e independente. Os investigadores se concentrarão em examinar o uso do Copilot pelo policial de maio de 2025 a junho de 2026 e determinar se seu comportamento violou os padrões profissionais de policiamento.
No momento, o policial recebeu um aviso de investigação por suspeita de negligência grave, mas o caso não foi finalizado e a investigação ainda está em andamento.
O incidente também reflete que a inteligência artificial está gradualmente entrando nos processos de trabalho diários das agências de aplicação da lei. Anteriormente, alguns departamentos de polícia dos Estados Unidos começaram a adotar o sistema Draft One lançado pela Axon, que pode gerar automaticamente projetos de relatórios policiais com base nas gravações de câmeras usadas no corpo. Embora o conteúdo final ainda precise de ser revisto e aprovado pelos agentes policiais, existem preocupações contínuas sobre a desinformação que a IA pode trazer e a dependência excessiva de ferramentas automatizadas.
Questões semelhantes também atraíram a atenção este ano. Um relatório policial gerado por inteligência artificial em Utah, nos EUA, deu errado. O sistema identificou erroneamente o conteúdo do áudio de fundo e afirmou no relatório que um policial “se transformou em sapo”. Felizmente, o erro foi descoberto e corrigido manualmente antes que o relatório fosse enviado oficialmente.
Ao mesmo tempo, o caso envolve a entrada de dados confidenciais no sistema de IA, o que também lembra o incidente ocorrido na Samsung em 2023. Naquela época, alguns funcionários enviaram códigos de programas confidenciais e conteúdo de reuniões ao ChatGPT para processamento, o que gerou preocupações generalizadas entre as empresas sobre os riscos de segurança de dados da inteligência artificial generativa.
À medida que mais e mais agências públicas começam a implantar assistentes de inteligência artificial, esta investigação pode se tornar um caso importante para o sistema britânico de aplicação da lei avaliar as normas de uso de IA. Poderá também afectar futuras políticas regulamentares e limites de aplicação da inteligência artificial no trabalho policial.
Comentários