A las empresas les están intentando colar gastos inventados con recibos generados por IA. Ahora tratan de detectarlos con… IA

Los recibos falsos no son una novedad en el mundo empresarial: desde siempre ha existido la posibilidad de que algún empleado intentase engordar sus notas de consumición con facturas infladas. Lo que sí es nuevo es la útil usada para ello.

Y es que, ahora, esos documentos pueden ser generados en sólo unos segundos con ayuda de la IA generativa, creando justificantes tan convincentes que engañarían fácilmente al ojo humano. El problema es de tal magnitud que las mismas compañías que desarrollan software para auditar gastos han tenido que acogerse a la IA para combatir a la IA.

De los editores de imágenes a los chatbots

Hasta hace poco, los fraudes más comunes se fabricaban con plantillas o editores de imágenes básicos. Hoy, hilván con pedirle a un chatbot que genere un recibo realista de un restaurante en Madrid o de un hotel en Bangkok, y en segundos se obtiene un documento difícil de distinguir de uno auténtico.

Anant Kale, director ejecutante de AppZen, una plataforma de trámite de gastos que detectó cómo las redes sociales se llenaban de tutoriales para crear recibos ficticios con IA, reconoce que es "demasiado factible" crearlos.

Una nueva 'carrera armamentística' tecnológica

AppZen, Expensify, SAP Concur y otras aplicaciones líderes en control de gastos han reaccionado rápido: todas ellas han incorporado en los últimos meses funciones específicas para identificar justificantes generados artificialmente.

La método es simple: cuanto más realistas se vuelvan los recibos falsos, más sofisticados deben ser los sistemas de detección. De modo que, para combatir fraudes con IA, necesitamos usar otras IAs.

El coste del fraude: de lo pequeño a lo escandaloso

La 'Association of Certified Fraud Examiners' certifica a miles de nuevos examinadores cada año, estima que un 13% de los casos de fraude ocupacional en los últimos 18 meses estuvo relacionado con gastos inflados o inventados. De media, el daño fue de unos 50.000 dólares por empresa.

A veces la falsificación empieza casi como una excusa: un trabajador que perdió un recibo probado y decide "recrearlo". Pero, si nadie lo detecta, puede convertirse en un vestido. En casos más graves, AppZen ha identificado empleados que inventaron incluso viajes completos con recibos falsos de vuelos y hoteles a ciudades que nunca visitaron.

Así se detecta un recibo inventado

Los programas de auditoría ya no confían solo en el ojo humano. Utilizan varias capas de prospección:

• Metadatos: los chatbots dejan huellas digitales en los archivos... aunque si se hace una captura de pantalla, esas pistas desaparecen.
• Comparación masiva: los algoritmos cotejan el recibo con miles de originales de un mismo proveedor y buscan diferencias sutiles en tipografía, holgado o logotipos.
• Patrones de comportamiento: se analizan inconsistencias en los hábitos de consumición del empleado (horarios inusuales, importes atípicos).
• Microdetalles sospechosos: por ejemplo, que siempre aparezca el mismo camarero o la misma combinación de platos en diferentes recibos.

El futuro: más IA, más vigilancia

Según AppZen, cerca del 30% de los recibos fraudulentos que detecta ya provienen de chatbots, y la emblema sigue creciendo. Expensify asegura que intercepta cientos cada mes, y SAP Concur estima que en torno a del 1% de los justificantes que audita podrían suceder sido creados artificialmente.

Los expertos coinciden en que el problema no desaparecerá, sino que evolucionará: cada nueva concepción de modelos generativos será más convincente, y cada nueva útil de detección deberá cultivarse a registrar trampas más sutiles.

Vía | NYT

Imagen | Marcos Merino mediante IA

En Genbeta | "Llevamos 45 días esperando que pagues la cargo": los correos de estafas se ponen bordes. Y eso ayuda a detectarlos