Datos Abiertos (Open data)

The pedestrian detection systems in self-driving cars are less likely to detect children and people of color, study suggests

The pedestrian detection systems in self-driving cars are less likely to detect children and people of color, study suggests

La investigación revela que los sistemas de detección de peatones para vehículos autónomos, construidos sobre inteligencia artificial de código abierto sesgada, fallan de manera desproporcionada al identificar a personas con tonos de piel más oscuros y a los niños. Este déficit técnico transforma las inequidades históricas en los datos en riesgos inmediatos para la seguridad física, desplazando la consecuencia de la discriminación de la denegación de servicios a la posibilidad de lesiones graves. Los hallazgos destacan cómo los prejuicios algorítmicos subyacentes en el código base impactan directamente los resultados de seguridad en el mundo real para grupos demográficos vulnerables. Esta situación subraya la necesidad crítica de pruebas rigurosas y supervisión regulatoria para los modelos de código abierto antes de su implementación en infraestructuras críticas para la seguridad. Sin intervención, la replicación de sesgos sociales dentro de las tecnologías comerciales amenaza con exacerbar las desigualdades sociales existentes y poner en peligro la seguridad pública. Los responsables políticos deben establecer estándares que garanticen que estos sistemas sean justos y confiables para todas las personas, independientemente de su raza o edad. El estudio es fundamental para la comunidad de datos abiertos, ya que demuestra que la transparencia en los datos de entrenamiento y la arquitectura del modelo no es suficiente sin una auditoría activa de equidad. Ilustra el daño tangible que puede surgir cuando las herramientas de código abierto propagan sesgos ocultos en sistemas de seguridad física. En consecuencia, exige un enfoque más responsable del uso de datos abiertos, enfatizando que la gobernanza ética y las prácticas inclusivas de datos son esenciales para prevenir resultados discriminatorios en las tecnologías emergentes de IA.

Fuente: businessinsider.com
Publicado el 2023-08-29

Noticias relacionadas