La rápida aceleración del ritmo de innovación de la inteligencia artificial (IA) en los últimos años y la aparición de capacidades de generación de contenidos (IA Generativa o GenAI) han aumentado el interés por la innovación de la IA en las finanzas, en parte debido a la facilidad de uso y a la interfaz intuitiva de las herramientas GenAI. El uso de la IA en los mercados financieros, que implica una automatización completa de principio a fin sin intervención humana, sigue estando, en gran medida, en fase de desarrollo, pero su mayor despliegue podría amplificar los riesgos ya presentes en los mercados financieros y dar lugar a nuevos retos.

Este documento presenta la evolución reciente de la IA en las finanzas y los riesgos potenciales, y analiza si los responsables políticos pueden necesitar reforzar las políticas y fortalecer la protección contra estos riesgos.

Entre las recomendaciones realizadas para el establecimiento de políticas se destaca el fortalecimiento de la gobernanza de datos, incluidas las garantías para superar el riesgo de sesgo/discriminación; realizar esfuerzos para mejorar los niveles de claridad; fomentar la transparencia; fortalecer la gobernanza del modelo y promover mecanismos de rendición de cuentas; promover la seguridad, la solidez y la resistencia de los modelos (incluyendo el riesgo cibernético) y mitigar los riesgos de engaño y manipulación del mercado. Los responsables políticos deben fomentar un enfoque centrado en el ser humano y hacer hincapié en la primacía humana en la toma de decisiones, en particular para los casos de uso de alto valor en las finanzas (por ejemplo, los préstamos). Es necesario invertir en I+D, competencias y capacidad para seguir el ritmo de los avances, concienciar sobre los peligros potenciales y crear herramientas para mitigar los riesgos asociados.