Researchers reduce bias in AI models while preserving or improving accuracy

Researchers reduce bias in AI models while preserving or improving accuracy

Los modelos de aprendizaje automático suelen mostrar un sesgo significativo contra subgrupos minoritarios, lo que provoca fallos críticos en aplicaciones de alto riesgo, como la atención sanitaria. Las estrategias tradicionales de mitigación, como el equilibrio de conjuntos de datos, generalmente requieren desechar grandes volúmenes de datos, lo que degrada severamente el rendimiento general del modelo. Esta compensación entre equidad y precisión ha obstaculizado durante mucho tiempo el despliegue de sistemas de IA equitativos en escenarios del mundo real, donde son esenciales las predicciones fiables para todos los grupos demográficos. Los investigadores han desarrollado una técnica novedosa que identifica y elimina únicamente los puntos de datos específicos más responsables de estos fallos sesgados. Al aprovechar métodos para rastrear qué ejemplos de entrenamiento contribuyen a predicciones incorrectas, el enfoque apunta a fuentes ocultas de sesgo sin reducir innecesariamente el tamaño del conjunto de datos. Esta precisión permite que el modelo conserve su precisión general mientras mejora significativamente el rendimiento para los grupos subrepresentados, ofreciendo una alternativa más eficiente y menos destructiva a los métodos convencionales de equilibrio. Esta innovación es altamente relevante para la comunidad de datos abiertos, ya que mejora la utilidad ética de los conjuntos de datos públicamente disponibles, muchos de los cuales contienen sesgos inherentes procedentes de diversas fuentes de internet. El método es accesible para los profesionales y no requiere modificar arquitecturas de modelos complejas, lo que facilita la auditoría y mejora de los proyectos de aprendizaje automático de código abierto. Al proporcionar una herramienta para examinar críticamente la calidad de los datos y la equidad, empodera a los desarrolladores para construir modelos más fiables e inclusivos, asegurando que los datos abiertos contribuyan a resultados equitativos en lugar de perpetuar desigualdades sistémicas.

Noticias relacionadas

• Transforming defense: South Korea develops AI-driven autonomy with synthetic data
• Chocolate maker Cadbury is fighting AI by injecting gibberish into training data
• El 2,4% de los mayores de 18 años en Ecuador se identifica como LGBTI+
• Un repunte inflacionario en Baleares sacude a los consumidores en noviembre
• Mo Ibrahim Foundation announces new updates to the Ibrahim Index of African Governance data portal