Your AI credit models are fine, but their training data is problematic
Your AI credit models are fine, but their training data is problematic
Los sistemas de préstamos basados en inteligencia artificial suelen perpetuar las inequidades históricas no por defectos en sus algoritmos, sino debido a datos de entrenamiento sesgados que aceptan prácticas discriminatorias del pasado como señales legítimas de riesgo. Estos modelos aprenden de décadas de registros históricos, asociando inadvertidamente a grupos marginados con un mayor riesgo en función de patrones históricos de denegación, más que del comportamiento financiero actual, lo que socava la promesa de una toma de decisiones automatizada justa y objetiva. El problema es particularmente agudo para las personas con "historiales crediticios delgados" (thin files), como los adultos jóvenes y los inmigrantes, quienes son desproporcionadamente rechazados en la solicitud de crédito debido a la incompletitud de sus registros históricos. Los modelos tradicionales se basan en criterios rígidos que excluyen a estos solicitantes independientemente de su salud financiera real, atrapándolos en ciclos de deuda o limitando su acceso a oportunidades de préstamos justos, a pesar de contar con otros indicadores financieros sólidos que permanecen invisibles para el sistema. Para lograr una verdadera responsabilidad algorítmica y equidad en las aplicaciones de datos abiertos, el enfoque debe desplazarse de algoritmos más inteligentes hacia datos más inteligentes y completos. Las soluciones requieren diversificar las fuentes de datos para crear una visión integral de la solvencia crediticia, implementar pruebas rigurosas de sesgo y garantizar la transparencia, de modo que los consumidores comprendan cómo se determinan sus puntuaciones. Este enfoque subraya que la inteligencia artificial ética depende de la curación de conjuntos de datos inclusivos, más que de la mera optimización de modelos computacionales.
Fuente: americanbanker.comPublicado el 2024-12-05
Noticias relacionadas
- BharatGPT: Qué es y por qué está teniendo tanto éxito
- College student slapped with $84,000 bill for FOIA records
- Google's Gradient backs Cake, a managed open-source AI infrastructure platform | TechCrunch
- Informe describe un MP “caro, ineficiente y corrupto”
- Inegi reporta alza de mujeres y baja de emprendedores en encuesta sobre ocupación y empleo