ARTDEPARTMENT
ARTDEPARTMENT
Lo que para un adolescente de 16 primaveras debía ser una tarde cualquiera luego de un entrenamiento de fútbol yanqui terminó convertido en una ámbito de película de hecho. Ocho coches patrulla, con sus correspondientes agentes de policía gritando "¡Al suelo!" pistola en mano, acababan de congregarse frente a la entrada del instituto Kenwood.
¿El motivo? Un cálculo de IA del sistema de videovigilancia había identificado la forma de un pertrechos de fuego en el faltriquera de uno de ellos.
El bisoño en cuestión era Taki Allen, estudiante del centro y componente de su equipo de fútbol yanqui, que se encontraba charlando con sus amigos luego de entrenar, y de pronto se vio rodeado de policías que le apuntaban con sus armas:
"Me dijeron que me tirara al suelo. Me esposaron. Pensé que me iban a matar".
La supuesta 'pertrechos' que desató el operante era, en verdad, una bolsa de Doritos sabor picante, que se encontraba arrugada en el faltriquera del pantalón del estudiante. El sistema de detección de armas, basado en inteligencia fabricado y operado por la empresa Omnilert, había emitido una alerta cibernética al identificar la forma del envoltorio como un posible pertrechos de fuego.
Horas más tarde, Allen lo recordaba así:
"Me mostraron la foto y dijeron: 'Esto parece una pistola'. Yo les respondí que 'No, son unas chips'".
Su anciano, Lamont Davis, lo resumió de forma dramática, pero no errónea: "Altísimo no lo quiera, mi nieto podría estar muerto si se hubiera movido un poco".
El estudiante y el 'pertrechos' protagonistas de la anuncio (Imagen | WBFF FOX45 Baltimore)
El sistema implicado pertenece a Omnilert Gun Detection, implementado en 2024 en varias escuelas del condado de Baltimore. Según la compañía, su software "usa inteligencia fabricado para analizar en tiempo positivo las imágenes de las cámaras de seguridad e identificar posibles armas", enviando alertas inmediatas a las autoridades.
En teoría, la detección es verificada por un cámara humano ayer de que la policía actúe. En la experiencia, el incidente de Kenwood High demostró que el proceso puede pifiar de forma bajo. Omnilert calificó el suceso como un 'impostor positivo', pero defendió que el sistema "funcionó según lo previsto", ya que "priorizó la seguridad y la comprobación rápida por humanos".
Una "comprobación" realizada, claro, tras sacar las armas frente a un instituto, no revisando la foto en el momento previo a dar el aviso a los agentes.
En cualquier caso, la explicación no convenció a la comunidad: padres y alumnos (respaldados por expertos en tecnología) se plantean ahora si un sistema con tal beneficio de error debería tener poder para desatar un operante armado en un entorno escolar.
La ordenamiento que agrupa a las escuelas públicas del condado envió una carta a los padres ofreciendo servicios de asesoramiento, pero Allen asegura que nadie del colegio se comunicó con él directamente. "No se disculparon. Solo dijeron que era protocolo".
El caso ha reavivado un debate creciente sobre el uso de inteligencia fabricado en contextos de seguridad pública y educativa. Si correctamente los defensores de la tecnología la presentan como una utensilio para preparar tragedias —en un país donde los tiroteos escolares suponen una amenaza constante—, los críticos advierten que los sistemas de visión fabricado aún cometen errores graves, especialmente en entornos con variables complejas como la iluminación, el movimiento o los reflejos.
Omnilert anunció que realizará una 'revisión exhaustiva' del incidente para mejorar la precisión de su sistema, aunque insistió en que su tecnología "está diseñada para asistir, no reemplazar, el discernimiento humano". Por su parte, el distrito escolar prometió reanimar los protocolos de comprobación ayer de remitir los avisos a las fuerzas de seguridad.
Vía | CBS News
Imagen | Marcos Merino mediante IA
En Genbeta | Monitorizar las pausas del baño llevó a la 'obediencia maliciosa' de todos los empleados y un coste que ya supera los 50.000 dólares
Compartir este artículo
Consultoria Personalizada
¡Si aun no tienes presencia en internet o
necesitas ayuda con tus proyectos, por favor, escribenos!
En ARTDEPARTMENT nos especializamos en brindar soluciones para que tu negocio, empresa o proyecto sea visible en internet.