Resumo:
Uma escola secundária na Pensilvânia, EUA, decidiu recentemente desativar um sistema de detecção de armas que utiliza tecnologia de inteligência artificial. Embora o sistema tenha vindo a recolher dados e a dar formação nas escolas durante meses, não conseguiu distinguir de forma fiável entre armas de fogo e artigos comuns que os alunos transportam todos os dias, emitindo frequentemente alarmes falsos. A escola finalmente concluiu que o equipamento ainda não havia atingido o padrão para uso real.

A escola envolvida é a Hempfield Area High School, na Pensilvânia. A escola participou de um projeto piloto conduzido pela CurvePoint para testar um sistema de detecção de armas com inteligência artificial chamado Wi-AI. CurvePoint é uma empresa start-up originária da Carnegie Mellon University especializada no desenvolvimento de tecnologia que utiliza sinais sem fio para detecção de segurança.
O Wi-AI é diferente dos detectores de metais tradicionais porque não exige que os alunos coloquem seus pertences na bandeja, nem depende de câmeras para identificar alvos. Em vez disso, utiliza sinais de rádio Wi-Fi para determinar a forma e as características das pessoas e dos seus pertences.
O sistema instala pequenos sensores chamados SensePods perto da entrada da escola. Quando uma pessoa passa perto do sensor, o aparelho mede as mudanças nas ondas de rádio refletidas na superfície do corpo humano e nos pertences, e então um software analisa esses sinais em busca de características semelhantes às de armas escondidas. Assim que um alvo suspeito é descoberto, o sistema pode alertar os funcionários da escola por meio de mensagem de texto, e-mail ou painel de controle administrativo.
A CurvePoint disse que o sistema não requer câmeras e pode analisar o fluxo de pessoas e a ocupação do edifício sem armazenar informações de identificação pessoal.
As escolas de Hempfield começaram a participar dos testes no ano letivo passado. Sensores instalados próximos à entrada coletam dados continuamente à medida que os alunos passam e, mesmo depois que os alunos entram no prédio, o sistema continua coletando dados para melhorar o modelo de reconhecimento.
No entanto, os resultados reais dos testes não foram ideais. O sistema frequentemente identifica itens comuns carregados pelos alunos como armas potenciais, incluindo fichários, garrafas metálicas de água e bancos de energia. Devido à grande variedade de dispositivos eletrônicos e outros itens que os alunos carregam diariamente, é difícil para os sistemas diferenciar com precisão entre itens verdadeiramente perigosos e apetrechos comuns.
A escola originalmente esperava que o modelo atingisse uma precisão de reconhecimento de 95%. Somente após atingir esse padrão seria possível utilizá-lo como principal sistema de detecção de segurança da escola. Mas o Superintendente do Distrito Escolar de Hempfield, Dr. Mark Holtzman, admitiu que o sistema ainda está longe da meta de 95%.
O problema, disse Holtzman, não é que o sistema não consiga detectar nada, mas que há muitos falsos positivos para atender aos requisitos reais de implantação. Ele ressaltou que fatores ambientais e problemas durante a transmissão de dados afetaram a estabilidade e a consistência do sistema.
Skip Smith, cofundador e CEO da CurvePoint, disse que Hempfield tem sido um local de testes e avaliação para a tecnologia de segurança escolar da empresa, em vez de um local formal de implantação.
Smith reconheceu que os testes ajudaram a empresa a compreender o desempenho do sistema, ao mesmo tempo que expôs questões ambientais que afetam a confiabilidade e a consistência. Ele disse que a empresa continuará a desenvolver e avaliar a tecnologia, mas atualmente não apoia a implantação operacional formal e não tem um cronograma firme para seu retorno ao serviço.
Como o projeto piloto não entrou na fase totalmente operacional, o pagamento anterior da escola pelo equipamento de detecção será reembolsado. Holtzman disse que a escola ainda está disposta a continuar a fornecer um ambiente de teste para o CurvePoint no futuro. Se a empresa precisar utilizar as instalações do campus para treinamento adicional, as duas partes poderão continuar a cooperar.
Depois que o Wi-AI for desativado, a Hempfield High School continuará a usar o sistema de detecção de armas OpenGate, que está em operação há muitos anos. A escola afirmou estar actualmente bastante satisfeita com o funcionamento deste conjunto de equipamentos tradicionais.
Esta não é a primeira vez que o sistema de segurança do campus de IA avalia seriamente mal. Em 2025, um incidente semelhante ocorreu na Kenwood High School, no condado de Baltimore, Maryland, EUA. Um estudante de 16 anos foi cercado pela polícia e algemado depois que um sistema de IA que controlava uma câmera de vigilância escolar confundiu um saco de Doritos em sua mão com uma arma.
A tecnologia de detecção de armas por IA atraiu a atenção de escolas americanas e governos locais nos últimos anos. Alguns sistemas tentam usar inteligência artificial, sensores sem fio e tecnologia de detecção eletromagnética para identificar perigos potenciais sem exigir que os alunos retirem seus pertences. No entanto, na implantação real, o equilíbrio entre a taxa de falsos alarmes, a sensibilidade de detecção e o ambiente complexo do campus ainda é um problema difícil.
Os resultados dos testes de Hempfield também mostram que o bom desempenho do sistema de IA em um laboratório ou ambiente limitado não significa que ele possa se adaptar diretamente a cenários complexos onde centenas ou mesmo milhares de estudantes carregam vários itens para dentro e para fora do campus todos os dias. Para dispositivos envolvidos na segurança do campus, muitos alarmes falsos não apenas aumentam a carga da equipe, mas também podem fazer com que alarmes reais sejam afogados em um grande número de avisos inválidos.
Comentários