How do you solve a problem like out-of-control AI?
How do you solve a problem like out-of-control AI?
El cambio estratégico de Google para convertir la inteligencia artificial en su producto central democratiza el acceso a herramientas avanzadas, permitiendo que miles de millones de personas realicen tareas complejas. Sin embargo, esta rápida integración destaca riesgos significativos, ya que los modelos actuales siguen siendo propensos a alucinaciones, manipulación y vulnerabilidad ante usos maliciosos. La ausencia de salvaguardas robustas significa que estas tecnologías pueden facilitar fácilmente la desinformación y las estafas, lo que sugiere que la trayectoria actual es insostenible sin una intervención inmediata. Esta incertidumbre tecnológica está impulsando una acción regulatoria urgente, con los legisladores pasando de la observación a la aplicación de la ley. En Estados Unidos, los líderes debaten si crear nuevas agencias o utilizar las leyes existentes para hacer cumplir estándares éticos, reflejando una creciente ansiedad social sobre el impacto de la IA. Los legisladores europeos están avanzando simultáneamente con la Ley de IA, que propone prohibiciones estrictas sobre aplicaciones de alto riesgo como el reconocimiento facial, señalando un cambio global hacia marcos de gobernanza más estrictos que priorizan la seguridad y la protección de datos sobre una innovación sin restricciones. Esta dinámica es crucial para open_data porque la proliferación de la IA depende en gran medida de conjuntos masivos de datos, a menudo extraídos sin consentimiento. La presión por la regulación impacta directamente la privacidad de los datos, la transparencia y los derechos de propiedad, desafiando la suposición de que la extracción de datos opera en un mercado libre. A medida que los gobiernos imponen reglas más estrictas sobre el uso de datos y el comportamiento de los modelos, el futuro de los conjuntos de datos abiertos dependerá de alinear la accesibilidad con la responsabilidad ética.
Fuente: technologyreview.comPublicado el 2023-05-17