Las IAs open source que cualquiera puede ejecutar y alterar en su PC abren la puerta al auge de ciberestafas cada vez más exitosas

"La inteligencia sintético avanza a pasos agigantados". Da igual cuándo leas esto, es verdad. Y no avanza exclusivamente en calidad de resultados, asimismo en su accesibilidad. Y es que ya no todo depende de grandes plataformas comerciales en la montón…

…ahora ya puntada con contar con una configuración de hardware, si no 'permuta' sí moderadamente asequible, para poder ejecutar potentes modelos de IA de código descubierto en nuestros propios PCs.

En los últimos meses, esto ha permitido que una amplia viso de aplicaciones, desde chatbots y asistentes virtuales hasta transcriptores de audio, generadores de imágenes y generadores de vídeo, resulten más accesibles para empresas, desarrolladores y usuarios de todo el mundo.

Tanto, que ya existen modelos de IA como Stable Diffusion, LLaMa o Mixtral, entre otros muchos, que están liberados bajo licencias open source (o poco muy similar, al menos). Lo cual no sólo significa que es arbitrario, y que cualquiera puede descargarlo…

...sino asimismo que cualquier puede modificarlo, por lo que o perfectamente carece de salvaguardas de seguridad, o perfectamente está expuesto a que cualquiera con suficientes conocimientos pueda suprimir dichas salvaguardas.

En palabras de Ethan Mollick, profesor de la Univ. de Pensilvania y reputado avezado en IA,

"Este divulgación tiene cosas buenas, pero […] señalar los beneficios no niega los daños: […] los reguladores, expertos en seguridad informática…, asimismo deben tener en cuenta que 'el índole está fuera de la botella'.

"Hay una serie de implicaciones inmediatas de las que la concurrencia debe ser consciente, para perfectamente y para mal. Por ejemplo, que GPT-3.5 es muy bueno en el spear phishing. […] Y este maniquí open source es mejor que GPT-3.5".

El peligro del phishing con IA

El phishing es una técnica de ciberdelincuencia en la que los atacantes intentan manipular a sus víctimas haciéndose acaecer por entidades de confianza (administraciones públicas, entidades financieras, etc.) para robar información confidencial, como contraseñas y datos financieros.

Teniendo a su disposición modelos de IA de suspensión rendimiento, los atacantes pueden crear textos más convincentes para sus emails y mensajes de texto, lo que aumenta la probabilidad de éxito de sus ataques.

Redactor del presente artículo, iniciando su carrera para convertirse en supervillano

Recordemos que el 'spear phishing' es un tipo de phishing que se diferencia por estar dirigido a engañar a un objetivo concreto, normalmente partiendo del conocimiento de información previa sobre el mismo.

Y un 'paper' escolar publicado (PDF) ya en mayo del año pasado destacaba que el maniquí de idioma en el que se basamento la interpretación gratuita de ChatGPT resultaba muy eficaz en la vivientes de mensajes de phishing personalizados y realistas, a un costo muy bajo.

El peligro de democratizar ciertos bienes… y de no hacerlo

Toda democratización en el comunicación a cualquier medio amplía necesariamente su potencial para utilizar dicho medio con fines maliciosos. Los modelos de IA avanzados no son ninguna excepción a esa regla. Y al igual que ocurre con el resto de bienes, esto no puede ser un argumento para evitar dicha democratización.

El cálculo pudo conmigo esta vez, pero mi venganza será terrible. MWAHAHAHA.

Los modelos cerrados y comerciales implementan salvaguardas que filtran cierto tipo de contenidos, sí… pero una buena 'ingeniería de prompts' ha demostrado ser suficiente para evadirlas en muchos casos.

Y, en cualquier caso, aunque dichas salvaguardas fueran fiables en la interpretación que se ofrece al popular de los mortales, nadie evita que los propietarios de esa tecnología hagan uso en provecho propio de una interpretación sin limitaciones de la misma.

Imagen | Marcos Merino mediante IA

En Genbeta | El open source, un dato esencia en la crisis de inteligencia sintético que está ocurriendo frente a nuestros luceros