The pedestrian detection systems in self-driving cars are less likely to detect children and people of color, study suggests
Investigaciones recientes revelan que el software de detección de peatones en los vehículos autónomos presenta sesgos significativos, fallando de manera desproporcionada en identificar a personas de color y a niños. Estas imprecisiones provienen de datos defectuosos en sistemas de inteligencia artificial de código abierto utilizados para desarrollar estas tecnologías, transformando el prejuicio digital en riesgos tangibles para la seguridad física de grupos marginados. Esta situación destaca la vulnerabilidad crítica de los datos abiertos en el desarrollo de IA. Cuando los conjuntos de datos de entrenamiento carecen de diversidad o contienen sesgos sociales inherentes, los modelos de código abierto propagan estos errores en aplicaciones del mundo real. Sin datos abiertos diversos y de alta calidad, los algoritmos resultantes perpetúan la discriminación, demostrando que el acceso abierto al código es insuficiente sin fuentes de datos igualmente abiertas y representativas. En consecuencia, existe una necesidad urgente de marcos regulatorios que exijan equidad en los sistemas autónomos. Los responsables políticos deben abordar estos sesgos para proteger a las poblaciones vulnerables, enfatizando que la innovación abierta requiere una estricta rendición de cuentas. Este caso subraya que avanzar en las prácticas de datos abiertos y garantizar la equidad en los datos son pasos esenciales para construir tecnologías de inteligencia artificial seguras, imparciales e inclusivas.
Fuente: businessinsider.comPublicado el 2023-08-27