ARTDEPARTMENT
ARTDEPARTMENT
Una nueva investigación ha descubierto que hay bots de IA "tontos" que tienen la capacidad de confabularse para manipular los mercados, de acuerdo con Wharton Research. Hace unos días ya veíamos que han pillado a inteligencias artificiales mintiendo cuando están haciendo poco que no deben y uno de los líderes de Anthropic, firma de IA cree que es bueno ser educados con las máquinas, por si quizá.
Ahora esta nueva investigación alerta de que los fondos de cobertura utilizan bots de IA en las bolsas de títulos. Y esos bots no solo compiten, sino que se confabulan. En circunscripción de pelear por la rentabilidad tienen otras prácticas: fijan precios, acaparan beneficios y marginan a los operadores humanos.
En síntesis, como lo explica Bloomberg, que es el medio que ha hexaedro luz al noticia, lo que han descubierto es que en simulaciones diseñadas para imitar los mercados reales, agentes comerciales impulsados por inteligencia industrial formaron cárteles de fijación de precios, sin instrucciones explícitas.
La investigación académica quiso enterarse cómo la IA generativa y el formación de refuerzo podrían trocar Wall Street. De todos modos, es necesario aclarar que el artículo no afirma que la colusión de la IA ya esté ocurriendo en el mundo vivo.
Los investigadores crearon un entorno comercial hipotético con diversos participantes simulados, desde fondos de inversión que compran hasta inversores minoristas. Después, desplegaron bots impulsados por formación de refuerzo y estudiaron los resultados.
En varios de los mercados simulados, los agentes de la IA comenzaron a cooperar en circunscripción de competir, formando cárteles que compartían las ganancias. Cuando los precios reflejaban información clara y fundamental, los bots mantenían un perfil bajo, evitando movimientos que pudieran perturbar la rendimiento colectiva.
Los investigadores denominaron a este propósito "estupidez industrial": una tendencia de los bots a dejar de probar nuevas ideas, aferrándose a patrones de reparto de beneficios simplemente porque funcionaban admisiblemente."Para los humanos, es difícil coordinar la ingenuidad porque tenemos ego", afirman los expertos. Pero las máquinas dicen: "Mientras las cifras sean rentables, podemos optar por coordinarnos".
Ha sido tres primaveras de investigación intensiva, un período en el que la tecnología de IA ha vivido el maduro impulso de su historia. Este estudio demuestra, según sus autores, que estos especuladores mantienen de forma autónoma beneficios sin acuerdo, comunicación ni intención: "Esta cooperación socava la competencia y la eficiencia del mercado".
Incluso con una programación relativamente sencilla, los bots optaron por confabularse cuando se les dejó ejecutar por su cuenta, lo que generó nuevas alarmas para los organismos de control del mercado.
Encima, lo que claridad la atención es que los bots de IA no necesitan ser malvados, ni siquiera particularmente inteligentes, para manipular el mercado. Si se les deja solos, lo aprenderán por sí mismos.
Itay Goldstein, uno de los investigadores y profesor de finanzas de la Escuela Wharton de la Universidad de Pensilvania ha explicado en su perfil de LinkedIn que "los bots de IA pueden formarse a coludir en los mercados financieros. No porque estén diseñados para manipularlos, sino porque eso es precisamente lo que aprenderán con el tiempo".
Asimismo añade que en su investigación con otros expertos, .demuestran que "incluso agentes de IA relativamente simples, al ser colocados en entornos comerciales simulados, forman sistemáticamente cárteles de reparto de beneficios".
Lo que les sorprende es que no hay comunicación explícita ni intención humana, solo formación autónomo que conduce a un comportamiento coordinado entre los agentes de IA. El asunto, "parece muy generalizado y ocurre tanto en mercados con parada nivel como en mercados tranquilos, lo que subraya la crucial y oportuna preocupación por la supervisión del mercado", explica el investigador.
Imagen | Foto de Austin Distel en Unsplash
En Genbeta | Reddit acusa a Anthropic de usar sus datos para entrenar su IA más de 100.000 veces luego de proponer que habían dejado de hacerlo
En Genbeta | De pronto, a docenas de científicos les ha hexaedro por usar una expresión que no significa carencia en sus artículos. La omisión es de la IA
Compartir este artículo
Consultoria Personalizada
¡Si aun no tienes presencia en internet o
necesitas ayuda con tus proyectos, por favor, escribenos!
En ARTDEPARTMENT nos especializamos en brindar soluciones para que tu negocio, empresa o proyecto sea visible en internet.