Datos Abiertos (Open data)

Mind the gap: Building inclusive AI for African languages

Mind the gap: Building inclusive AI for African languages

El uso generalizado de herramientas de lenguaje basadas en inteligencia artificial (IA) a menudo excluye a las lenguas africanas y a otras lenguas con recursos limitados debido a una grave escasez de datos de entrenamiento de alta calidad. Históricamente, los datos disponibles para estas lenguas se limitaban a textos religiosos, lo que provocaba que los modelos funcionaran mal en contextos generales al insertar erróneamente términos sagrados en conversaciones cotidianas. Esta disparidad pone de manifiesto una brecha sistémica en la que el desarrollo tecnológico no refleja el uso real y la diversidad de las poblaciones vivientes, dando lugar a herramientas funcionalmente sesgadas e ineficaces para hablantes no occidentales. La creación actual de conjuntos de datos depende en gran medida del rastreo automatizado de la web y de la curación algorítmica, lo que reduce drásticamente los costos pero compromete severamente la calidad. Estos procesos automatizados tienen dificultades para identificar y alinear con precisión los textos en lenguas con recursos limitados, lo que genera conjuntos de datos masivos llenos de ruido y contenido inutilizable. La eficiencia de generar billones de pares de oraciones se logra a expensas de la fiabilidad, ya que las métricas estadísticas de precisión suelen ocultar el pobre rendimiento en el mundo real que experimentan los usuarios. En consecuencia, los desarrolladores suelen implementar un soporte lingüístico superficial sin realizar las evaluaciones humanas necesarias para verificar su utilidad práctica. Esta situación es relevante para los datos abiertos, pues expone cómo las fuentes web abiertas pueden perpetuar inequidades cuando no se gestionan con intencionalidad. Confiar en datos abiertos sin supervisión crea un ciclo de retroalimentación en el que las lenguas dominantes prosperan mientras las marginadas sufren negligencia técnica y desinformación. Para lograr una inclusión genuina, la comunidad de datos abiertos debe pasar de priorizar el volumen a imponer estándares rigurosos de calidad y gobernanza equitativa. La integración significativa requiere esfuerzos intencionales y impulsados por la comunidad para corregir estos desequilibrios, en lugar de aceptar por defecto soluciones automatizadas y defectuosas como respuestas suficientes para la representación global.

Fuente: akademie.dw.com
Publicado el 2025-09-03

Noticias relacionadas