IA en los préstamos:mitigar el sesgo y garantizar un acceso justo al crédito

La inteligencia artificial (IA) ha revolucionado muchos campos en los últimos años, incluido el sector bancario. Su implementación ha tenido aspectos tanto positivos como negativos, en particular la cuestión de la discriminación algorítmica en los préstamos.

En Canadá y en todo el mundo, la implementación de la IA en los principales bancos ha llevado a una mayor productividad y, al mismo tiempo, ha ofrecido una mayor personalización de los servicios.

Según la Encuesta Global IEEE, se espera que la adopción de soluciones basadas en IA se duplique a nivel mundial para 2025, llegando al 80 por ciento de las instituciones financieras.

Algunos bancos están más avanzados, como BMO Financial Group, que ha creado puestos específicos para supervisar la integración de la IA en sus servicios digitales con el fin de seguir siendo competitivos. Como resultado, gracias a la IA, las ganancias de la industria bancaria mundial podrían superar los 2 billones de dólares en 2028, lo que representa un crecimiento de casi el nueve por ciento entre 2024 y 2028.

Como profesor de gestión del conocimiento y la innovación de la Universidad Laval y comunicador científico, para escribir este análisis me ayudaron Kandet Oumar Bah, autor de un proyecto de investigación sobre discriminación algorítmica, y Aziza Halilem, experta en gobernanza y riesgo cibernético de la Autoridad Francesa de Supervisión y Resolución Prudencial.

¿Cómo mejora la IA el rendimiento bancario?

La integración de la IA en el sector bancario ya ha optimizado significativamente los procesos financieros, con una ganancia de eficiencia operativa del 25 al 40 por ciento. Combinada con las crecientes capacidades del big data (por ejemplo, la recopilación masiva de datos), la IA ofrece análisis potentes que ya pueden reducir los márgenes de error de los sistemas financieros entre un 18 y un 30 por ciento.

También permite monitorear millones de transacciones en tiempo real, detectar comportamientos sospechosos e incluso bloquear preventivamente ciertas transacciones fraudulentas. Este es uno de los usos implementados por J.P. Morgan.

Además, plataformas como FICO, que se especializan en análisis de decisiones basadas en inteligencia artificial, ayudan a las instituciones financieras a aprovechar una variedad de datos de clientes, refinando sus decisiones crediticias a través de modelos predictivos avanzados.

Varios bancos de todo el mundo dependen ahora de algoritmos de calificación automatizados que pueden analizar numerosos parámetros, incluidos ingresos, historial crediticio y ratios de endeudamiento, en cuestión de segundos. En el mercado crediticio, estas herramientas mejoran significativamente el procesamiento de solicitudes, particularmente para casos "estándar", como aquellos con garantías de préstamo explícitas.

Pero ¿qué pasa con los otros casos?

¿Formalizar la injusticia?

Como señalan los investigadores estadounidenses Tambari Nuka y Amos Ogunola, la ilusión de que los algoritmos producen predicciones justas y objetivas plantea un riesgo importante para el sector bancario.

Al revisar la literatura científica, advierten contra la tentación de delegar ciegamente la evaluación del comportamiento humano complejo a sistemas automatizados. Varios bancos centrales, incluido el de Canadá, también han expresado fuertes reservas al respecto, advirtiendo sobre los riesgos operativos asociados con la excesiva dependencia de la IA, particularmente en la evaluación de la solvencia y la solvencia.

Aunque los algoritmos son técnicamente neutrales, pueden amplificar las desigualdades existentes cuando los datos de entrenamiento están contaminados por sesgos históricos, particularmente aquellos heredados de la discriminación sistémica contra ciertos grupos. Estos sesgos no sólo resultan de variables explícitas como el género o el origen étnico, sino también de correlaciones indirectas con factores como el lugar de residencia o el tipo de empleo.

Los estudios muestran que la IA podría contribuir a reproducir las desigualdades. (Persiana)

Por ejemplo, los sistemas de calificación pueden asignar límites de crédito más bajos a las mujeres, incluso en situaciones en las que son financieramente equivalentes a los hombres. El análisis de variables como los códigos postales y el historial laboral también puede llevar a la exclusión de miembros de grupos marginados, como personas racializadas, trabajadores con ingresos irregulares e inmigrantes recientes.

Virginia Eubanks, profesora en Estados Unidos y experta en justicia social, ilustra bien este fenómeno, mostrando cómo las personas que viven en barrios históricamente desfavorecidos o con trayectorias profesionales atípicas son penalizadas por decisiones financieras automatizadas basadas en datos sesgados.

Esto plantea una pregunta crucial:¿cómo podemos garantizar que la automatización de las decisiones financieras ayude a reducir las disparidades en el acceso a los servicios bancarios?

Mitigación de errores mediante finanzas inclusivas

En la literatura científica se están explorando varias vías en respuesta a estos riesgos de discriminación. Nuka y Ogunola, por ejemplo, sugieren un enfoque de inclusión financiera. Esto implica mejorar continuamente los modelos estadísticos mediante la identificación y corrección de sesgos en los datos de entrenamiento para reducir las disparidades en el trato entre grupos sociales.

Más allá de las soluciones técnicas, recientemente se han establecido marcos regulatorios para garantizar la transparencia y la equidad de los algoritmos en sectores sensibles como el financiero. La Ley de Datos e Inteligencia Artificial de Canadá y la Ley de Inteligencia Artificial de la UE de Europa son ejemplos de esto. Este último, adoptado en 2024 e implementado gradualmente, impone requisitos estrictos a los sistemas de inteligencia artificial de alto riesgo, como los que se utilizan para otorgar crédito.

El artículo 13 establece requisitos de transparencia para garantizar que los sistemas sean auditables y que sus decisiones puedan ser entendidas por todas las partes interesadas. El objetivo es prevenir la discriminación algorítmica y garantizar un uso ético y justo. Los reguladores financieros también tienen un papel crucial que desempeñar para garantizar el cumplimiento de las normas de competencia leal y garantizar prácticas prudentes y transparentes en aras de la estabilidad financiera y la protección del cliente.

Sin embargo, la presión de ciertos lobbies tecnológicos y financieros para frenar la adopción de normas estrictas plantea un riesgo importante:la falta de regulación en algunos países y las dificultades para su aplicación en otros podrían fomentar la opacidad, en detrimento de los ciudadanos más vulnerables.