Investigadores del MIT desarrollan técnica para reducir el sesgo en modelos de IA sin perder precisión
Los modelos de aprendizaje automático suelen fallar al predecir resultados para grupos subrepresentados, lo que compromete su utilidad clínica y ética. Esta limitación surge comúnmente cuando los datos de entrenamiento carecen de diversidad adecuada, generando predicciones erróneas que afectan desproporcionadamente a poblaciones minoritarias o femeninas en contextos de salud. Investigadores del MIT han desarrollado una técnica que mejora la equidad sin sacrificar la precisión general del modelo. A diferencia de los métodos tradicionales que eliminan grandes volúmenes de datos para equilibrar conjuntos, esta nueva metodología identifica eficientemente los puntos problemáticos específicos, preservando la información valiosa y corrigiendo sesgos incluso en datos no etiquetados. Esta innovación es crucial para open_data porque promueve la creación de conjuntos de datos más justos y representativos sin la pérdida masiva de información. Al permitir que la inteligencia artificial funcione mejor con datos no etiquetados, facilita el uso ético de información abierta y diversa, asegurando que las decisiones automatizadas no perpetúen desigualdades sociales en aplicaciones críticas.
Fuente: larepublica.esPublicado el 2024-12-24