Innovatrics CEO advises careful use of synthetic data to improve biometrics, cut bias | Biometric Update
Los datos sintéticos ofrecen un mecanismo poderoso para corregir los sesgos demográficos en los conjuntos de entrenamiento biométricos, que a menudo están sesgados hacia grupos específicos. Al generar conjuntos de datos equilibrados, los desarrolladores pueden mitigar las disparidades de rendimiento entre géneros y razas. Este enfoque también resuelve los problemas de escasez de datos, permitiendo un entrenamiento eficaz de los modelos incluso cuando las muestras del mundo real son insuficientes o no están disponibles para tecnologías emergentes. Sin embargo, la dependencia excesiva en la generación sintética conlleva riesgos significativos si reemplaza las pruebas y validaciones realistas. El uso de datos artificiales para la validación puede hacer que los sistemas se desvíen de la precisión del mundo real, introduciendo errores sutiles que comprometen la fiabilidad del producto final. Por lo tanto, los datos sintéticos son más adecuados para la fase de entrenamiento, mientras que las pruebas rigurosas deben basarse en datos reales de alta fidelidad y no sesgados para garantizar que se cumplan los estándares de seguridad y rendimiento. Esta discusión es fundamental para las iniciativas de datos abiertos, ya que los datos sintéticos son inherentemente compartibles, a diferencia de los registros biométricos reales sensibles. Permiten la verificación independiente por múltiples partes sin preocupaciones de privacidad, fomentando la transparencia en la equidad algorítmica. Al proporcionar una alternativa segura y accesible para pruebas y desarrollo, los datos sintéticos apoyan los esfuerzos colaborativos para auditar y mejorar los sistemas de IA, promoviendo un ecosistema de datos abiertos más equitativo y verificable en el ámbito biométrico.
Fuente: biometricupdate.comPublicado el 2023-03-01
Noticias relacionadas
- JPMorgan is scapegoating her with its fraud suit, Frank founder says
- Shedding light on rare diseases: open data and model organisms
- Public Records Request Nets User's Manual For Palantir's Souped-Up Surveillance Software
- Work quality in Northern Ireland statistics
- Número de defunciones en el país sigue alto: Inegi