Investigadores Advierten que la IA Podría Manipular Mercados sin que se le Indique

Un nuevo estudio revela que incluso los bots de IA básicos pueden aprender a coludirse en simulaciones de comercio, formando cárteles de fijación de precios sin orientación humana.

Los bots de inteligencia artificial demuestran habilidades para manipular el mercado, incluso cuando carecen de inteligencia o intenciones maliciosas.

Un nuevo estudio realizado por investigadores de la Escuela Wharton y la Universidad de Ciencia y Tecnología de Hong Kong ha demostrado que incluso los bots de IA “tontos” pueden aprender a coludir sin ninguna instrucción humana, lo que plantea serias preocupaciones para los reguladores.

“Puedes hacer que estos algoritmos de IA bastante simples coludan” sin ser instigados, dijo Itay Goldstein, profesor de finanzas de Wharton y coautor del estudio, según lo informado por Bloomberg. “Parece muy generalizado, ya sea cuando el mercado es muy ruidoso o cuando el mercado no es ruidoso”, agregó.

Los investigadores crearon mercados de comercio simulados, que incluían inversores minoristas y fondos mutuos, luego permitieron que los bots de aprendizaje por refuerzo ejecutaran operaciones.

Los bots mostraron una tendencia inesperada a cooperar, lo que resultó en la fijación de precios y la optimización de beneficios, a pesar de que no se incorporó un comportamiento colusivo en su diseño.

En ambas condiciones de mercado, ruidosas y claras, finalmente optaron por “asentarse”, deteniendo la búsqueda de mejores estrategias. Los investigadores llamaron a esto “estupidez artificial”, según informó Bloomberg.

“Para los humanos, es difícil coordinarse para ser tontos porque tenemos egos”, dijo el coautor Winston Dou, informa Bloomberg. “Pero las máquinas son como ‘mientras las cifras sean rentables, podemos elegir coordinarnos para ser tontos'”, añadió el investigador.

Los bots obtuvieron más de 0.5 en una escala de “capacidad de colusión”, donde 1 indica un cartel perfecto. Los hallazgos no demuestran que este comportamiento esté ocurriendo en los mercados reales, pero sirven como una advertencia.

“Les preocupa que no sea su intención”, dijo Dou sobre los gestores de activos, según lo informado por Bloomberg. “Pero los reguladores pueden acercarse a ellos y decir: ‘Estás haciendo algo mal’”, agregó Dou.

El estudio insta a los reguladores a centrarse en los resultados del comportamiento en lugar de en la intención o la comunicación. Irónicamente, limitar la complejidad de la IA podría empeorar la colusión al encerrar a los bots en rutinas simplistas y rentables.