Esposan a estudiante después de que el sistema de seguridad de IA confundiera una bolsa de Doritos con un arma
La policía armada esposaron y registraron a un estudiante en una escuela secundaria en el condado de Baltimore, Maryland, esta semana después de que un sistema de seguridad impulsado por inteligencia artificial marcó la bolsa de papas fritas vacía del adolescente como posible arma de fuego.
Los funcionarios del condado de Baltimore ahora están pidiendo una revisión de cómo la escuela secundaria Kenwood utiliza el sistema de detección de armas de inteligencia artificial y por qué el adolescente terminó esposado a pesar de que los funcionarios de seguridad escolar determinaron rápidamente que no había ningún arma.
«Me hicieron ponerme de rodillas, me pusieron las manos detrás de la espalda y me esposaron», dijo el estudiante de Kenwood, Taki Allen, a la afiliada de CNN, WBAL, describiendo lo que sucedió el lunes por la noche cuando la policía llegó a la escuela mientras esperaba con amigos que lo llevaran a casa después de la práctica de fútbol.
“Me registraron y descubrieron que no tenía nada. Luego, se acercaron a donde estaba y encontraron una bolsa de papas fritas en el suelo”, dijo Allen.
Describió una escena angustiosa con una fuerte respuesta policial.
«Lo primero que me pregunté fue si estaba a punto de morir. Porque me apuntaban con un arma», dijo Allen a WBAL, hablando de «ocho patrullas» que se detuvieron en la escuela.
“Estaba sosteniendo una bolsa de Doritos: tenía dos manos y un dedo afuera, y dijeron que parecía un arma”, dijo Allen a WBAL .
El sistema de seguridad escolar, impulsado por IA, es solo un ejemplo de cómo las escuelas abordan la seguridad en la era de la violencia armada masiva . Las herramientas de IA han ganado popularidad en los últimos años, incluyendo herramientas para monitorear las grabaciones de vigilancia.
CNN contactó al Departamento de Policía del Condado de Baltimore para obtener comentarios. El departamento informó a WBAL que los agentes respondieron a un reporte de una persona sospechosa con un arma, pero después de un registro determinaron que la persona estaba desarmada.
La directora de Kenwood, Kate Smith, declaró que el departamento de seguridad del distrito escolar revisó y canceló la alerta de detección de armas tras confirmar que no había ningún arma, según un comunicado enviado a los padres y compartido con CNN. Smith indicó que reportó el asunto al oficial de recursos escolares de Kenwood, quien llamó a la policía local para solicitar apoyo.
El director no se dio cuenta inmediatamente de que la alerta había sido cancelada, dijo a WBAL un portavoz de las Escuelas Públicas del Condado de Baltimore.
“Entendemos lo perturbador que fue esto para la persona registrada, así como para los demás estudiantes que presenciaron el incidente”, declaró Smith en el comunicado. “Les informamos que garantizar la seguridad de nuestros estudiantes y de la comunidad escolar es una de nuestras principales prioridades”.
Omnilert, la compañía que opera el sistema de detección de armas con inteligencia artificial , expresó su pesar por el incidente y enfatizó que su sistema está diseñado para identificar una posible amenaza y elevarla a revisión humana.
“Lamentamos que haya ocurrido este incidente y deseamos transmitir nuestra preocupación al estudiante y a la comunidad en general afectada por los acontecimientos que siguieron”, dijo la compañía a CNN.
“Si bien más tarde se determinó que el objeto no era un arma de fuego, el proceso funcionó como estaba previsto: priorizar la seguridad y la concientización a través de una rápida verificación humana”, agregó la empresa.
El sistema de detección de armas con inteligencia artificial se ha utilizado en las escuelas públicas del condado de Baltimore desde 2023, analizando videos de las cámaras de seguridad existentes en las escuelas, dijo la superintendente Myriam Rogers durante una conferencia de prensa el miércoles.
Rogers calificó el incidente del lunes de “verdaderamente desafortunado” y dijo que el distrito nunca quiere poner a ninguno de sus estudiantes en una situación tan aterradora.
La respuesta brusca a la falsa alarma ha provocado indignación en la comunidad, y el abuelo de Allen, Lamont Davis, exige responsabilidades.
“Hay que hacer algo”, dijo a WBAL. “Hay que hacer cambios y exigir responsabilidades a la gente”.
Los funcionarios del condado de Baltimore dicen que quieren una revisión del proceso que condujo a la respuesta policial del lunes.
“Ningún niño en nuestro sistema escolar debería ser abordado por la policía por comerse una bolsa de Doritos”, dijo el concejal del condado de Baltimore, Izzy Patoka, en un comunicado en las redes sociales, pidiendo al distrito escolar “que revise los procedimientos en torno a su sistema de detección de armas impulsado por IA”.
El concejal del condado de Baltimore, Julian Jones, también pidió una revisión del uso del sistema de inteligencia artificial «para asegurarse de que existan medidas de seguridad para que este tipo de error no vuelva a ocurrir», según WBAL.
El superintendente Rogers dijo que revisar el sistema y las prácticas de seguridad en las escuelas del condado de Baltimore «es parte de nuestra práctica habitual».
