Borrar la información errónea: el nuevo gran reto de la Inteligencia Artificial - Diario Primicia
El incidente que afectó al alcalde australiano Brian Hood ilustra la dificultad crítica de corregar errores en la Inteligencia Artificial, un desafío que trasciende la simple eliminación de datos. La capacidad de la IA para "desaprender" información errónea no es automática ni trivial, exponiendo la fragilidad de los modelos actuales ante solicitudes de rectificación y destacando la necesidad urgente de desarrollar nuevas herramientas técnicas capaces de hacer que los algoritmos "olviden" registros problemáticos. Este caso resalta la relevancia directa de los datos abiertos y la privacidad en la era de la IA, especialmente frente a la inminente regulación europea de protección de datos. La comunidad científica está explorando el "desaprendizaje automático" para permitir a las empresas borrar información específica de sus bases de entrenamiento. Sin embargo, expertos advierten que no existe una solución mágica; persisten grandes incógnitas sobre el funcionamiento interno de estos sistemas y la gestión ética de la recopilación de datos, dejando áreas técnicas y legales pendientes de resolución. La situación demuestra que la transparencia en el origen de los datos y la capacidad de auditar y corregir información son pilares fundamentales para la confianza pública. Si bien el desajuste de información falsa en este caso se resolvió parcialmente mediante la exposición mediática, esto no sustituye la necesidad de mecanismos robustos y automatizados. Para el ecosistema de datos abiertos, este fenómeno subraya que la integridad de la información no depende solo de su disponibilidad, sino de la viabilidad técnica para garantizar su precisión y derecho al olvido.
Source: primicia.com.vePublished on 2023-12-12