Researchers reduce bias in AI models while preserving or improving accuracy
Researchers reduce bias in AI models while preserving or improving accuracy
Los modelos de aprendizaje automático suelen generar predicciones inexactas para grupos subrepresentados cuando se entrenan con conjuntos de datos desequilibrados, lo que da lugar a resultados injustos en aplicaciones críticas como la atención sanitaria. Las soluciones tradicionales suelen implicar equilibrar los conjuntos de datos eliminando grandes cantidades de información, lo que degrada significativamente el rendimiento general del modelo. En consecuencia, lograr la equidad sin sacrificar la precisión ha sido un gran desafío para ingenieros e investigadores. Para abordar este problema, investigadores del MIT han desarrollado una técnica que identifica y elimina únicamente los puntos de datos específicos que provocan fallos en los subgrupos minoritarios. Al señalar estos ejemplos problemáticos en lugar de tratar todos los datos por igual, el método mantiene la precisión general del modelo mientras mejora sustancialmente el rendimiento para los grupos marginados. Este enfoque también es eficaz para detectar sesgos ocultos en datos no etiquetados, lo que lo convierte en una herramienta versátil para profesionales que buscan auditar sus conjuntos de datos. Esta investigación es altamente relevante para open_data, ya que proporciona un marco práctico para garantizar la equidad en los recursos de aprendizaje automático de acceso público. Al permitir que los desarrolladores examinen y limpien críticamente los conjuntos de datos antes de su implementación, la técnica promueve la creación de sistemas de inteligencia artificial más fiables y justos. Esto contribuye al objetivo más amplio de hacer que las iniciativas de datos abiertos sean más inclusivas y confiables, asegurando que las decisiones automatizadas no perpetúen sesgos sistémicos contra poblaciones subrepresentadas.
Fuente: news.mit.eduPublicado el 2024-12-12