Recentemente, ocorreu um incidente ultrajante no condado de Baltimore, Maryland, EUA:Um sistema local de detecção de armas de IA identificou erroneamente o saco de flocos de milho Doritos de um estudante de 16 anos como uma arma de fogo, fazendo com que a polícia armada fosse enviada.
O incidente ocorreu em 20 de outubro. Taki Allen, um estudante da Kenwood High School, tinha acabado de terminar o treino de futebol e estava fora da escola com amigos. De repente, vários carros da polícia aceleraram e a polícia apontou armas para eles.
Allen relembrou: "Havia cerca de oito carros de polícia vindo em nossa direção. Eles vieram em minha direção com armas em punho e gritaram: 'Deite-se no chão', e eu pensei: 'O que está acontecendo?'" Ele descreveu o medo na época:"Eles me fizeram ajoelhar com as mãos amarradas nas costas e algemadas. Depois me revistaram e não encontraram nada."
Allen foi subjugado pela polícia sob a mira de uma arma, e a polícia mais tarde mostrou-lhe a imagem interceptada pela IA que acionou o alarme. Na imagem, o saco de Doritos amassado no bolso foi confundido pelo sistema com uma arma.
“Eu estava pensando principalmente: 'Será que vou morrer? Eles vão me matar?' Eles me mostraram a foto e disseram que parecia uma arma", disse Allen com medo persistente.
O sistema de IA que desencadeou o incidente vem do Omnilert, uma tecnologia introduzida pelas Escolas Públicas do Condado de Baltimore no ano passado que verifica as imagens de vigilância existentes em tempo real e alerta imediatamente as autoridades quando detecta um objeto que acredita ser uma arma.
Allen segurava um saco de flocos de milho e suas mãos expostas e um dedo pareciam estar segurando uma arma. Omnilert reconheceu que se tratava de um alarme falso, mas argumentou que o sistema “funcionou conforme planejado” e foi projetado para “priorizar a segurança por meio de verificação manual rápida”.
