La Policía Nacional ha abandonado su IA estrella para detectar denuncias falsas. Lo decidió tras aprobarse la nueva normativa de la UE

En 2018, la Policía Franquista de España presentó con gran entusiasmo VeriPol, una útil ya entonces basada en IA, diseñada para detectar denuncias falsas de robos con violencia. Anunciada como "pionera" y la primera en su tipo a nivel mundial, su implementación prometía optimizar el uso de los medios policiales y combatir el fraude en seguros.

Sin retención, ahora sabemos que el pasado mes de octubre (seis abriles posteriormente de su propagación, y en plena fiebre por las herramientas de IA) la Policía dio carpetazo definitivamente a VeriPol, usando como argumento su desidia de validez en procedimientos judiciales (ya carecía de la misma cuando se implementó).

Hay, sin retención, otras razones por las que podría haberse prescindido de esta IA.

El salida de VeriPol

Desarrollada por investigadores de la Universidad Complutense, la Universidad Carlos III y un exagente de policía con doctorado en matemáticas, VeriPol fue entrenada con un conjunto de datos de 1.122 denuncias por robo realizadas en España de 2015: de estas, 534 habían sido clasificadas como verdaderas y 588 como falsas.

La útil utilizaba procesamiento de estilo natural (NLP) para identificar patrones lingüísticos asociados a declaraciones fraudulentas. Según sus creadores, su precisión superaba el 90%.

Los primeros datos difundidos parecían prometedores: se afirmó que, durante una prueba piloto en Málaga y Murcia en 2017, el 83,54% de las denuncias identificadas por VeriPol como falsas se terminaron traduciendo en confesiones de los denunciantes. Después, en 2018, la útil fue oficialmente adoptada en comisarías de toda España, procesando cerca de 84.000 denuncias hasta 2020.

Problemas con la metodología y los datos

Sin retención, VeriPol ha sido objeto de críticas por su desidia de transparencia y su posible sesgo en la identificación de denuncias falsas. Investigaciones de la Universidad de Valencia señalaban recientemente un obvio problema de cojín: que la útil no trabajaba con el prueba directo de los denunciantes, sino con las transcripciones realizadas por agentes de policía.

"VeriPol se cimiento en el procesamiento de estilo natural para individualizar rasgos en las historias que las identifican como mentiras... pero no analiza la historia que el eventual mentiroso está contando a la policía, sino lo que el propio policía escribe. Y como VeriPol ha sido entrenado sobre textos escritos por los agentes, [...] podría ser que el sistema estuviera reproduciendo las opiniones de los agentes sobre la fiabilidad de las denuncias".

Adicionalmente, existe otro problema con esta IA, y radica en el limitado tamaño (y potencial desactualización, por no mencionar la quebranto representatividad) de la muestra de datos usada para entrenarla. Ya sabemos que la amplitud de los datos de entrenamiento en una de las grandes batallas hoy en día de las empresas desarrolladoras de IA:

"Adicionalmente, el conjunto de datos no es muy ínclito: 1122 denuncias, cuando cada año en España se presentan unas 30.000 denuncias por robos violentos ocurridos en la calle, y ya es un poco antigua (2015): en siete abriles puede activo cambiado mucho el estilo o las cosas que se roban con más frecuencia.

Preguntamos en la reunión de Madrid si habían comprobado que esas denuncias fueran representativas de diferentes edades, entornos socioeconómicos, diversificación geográfica y gramática, etc., pero solo nos dijeron que debían ser representativas, sin más explicaciones".

Opacidad

El documentación de la UV además criticaba la desidia de transparencia de VeriPol: "No hay datos oficiales disponibles sobre VeriPol en rotundo", y desde la entidad pro-transparencia Civio cuentan que solicitaron

"en febrero de 2023 y, de nuevo, en diciembre de 2024 información sobre el funcionamiento técnico de esta útil y sobre su uso, sin que el Profesión de Interior, a día de hoy, haya donado respuesta ni siquiera sobre el número de comisarías en las que finalmente se implantó".

"Poco pasó..."

Hace ya cinco abriles, el diario la Voz de Galicia se hizo eco del hecho de que la comisaría de Vigo llevaba dos abriles esperando para implementar VeriPol alegando que los agentes no habían recibido formación para usarlo "y nadie sabe cómo funciona". En ese artículo, fuentes de la Superioridad Superior de Policía de Galicia no sólo expresaban su sorpresa por ello, sino que calificaban de "muy fiable" esta IA hoy abandonada.

Sin retención, además se citaban declaraciones del portavoz del sindicato UFP en Vigo, Agustín Vigo, en las que explicaba que no solo no se usaba en esta ciudad sino que

"no se usa en muchos sitios porque al parecer no anda muy adecuadamente. Poco pasó porque, que yo sepa, tan pronto como se usa".

El documentación de la UV, finalmente, mostraba además respaldo a esta última afirmación, pues revelaba que el uso de esta tecnología había disminuido considerablemente con el tiempo: en 2022, solo se analizaron 3.762 denuncias con VeriPol, de las cuales 511 fueron identificadas como falsas.

Regulación europea y el fin de VeriPol

En 2024, la entrada en vigor el 1 de agosto de 2024 del Reglamento Europeo sobre Inteligencia Fabricado, que clasifica los polígrafos adentro de la categoría de "suspensión peligro", impuso de repente estrictos requisitos de revisión, puesta al día y transparencia a esta IA.

Esto, sumado a los problemas previamente identificados, habría llevado al Profesión del Interior a descontinuar VeriPol tan sólo un mes más tarde.

A pesar del fracaso de VeriPol, el uso de IA en la seguridad pública no ha sido descartado en España: herramientas como Viogén (para la evaluación de riesgos en casos de violencia de naturaleza) y RisCanvi (para la dirección penitenciaria en Cataluña) siguen operativas, aunque es de suponer que bajo un veterano cómputo. La consejo aprendida con Veripol podría marcar el camino para futuras aplicaciones.

Vía | CIVIO

Imagen | Marcos Merino mediante IA

En Genbeta | "Macho, pelo azaroso, prenda de color rojo": así usa la Policía Franquista la inteligencia fabricado con cámaras en las calles