AI news recap: While Hollywood strikes, is ChatGPT getting worse?
AI news recap: While Hollywood strikes, is ChatGPT getting worse?
Los recientes avances en inteligencia artificial (IA) ponen de manifiesto tensiones críticas entre el progreso tecnológico y los derechos humanos, especialmente en las industrias creativas. La huelga de SAG-AFTRA subraya profundas preocupaciones respecto al consentimiento y la compensación, ya que los actores temen que los estudios de producción puedan aprovechar la IA para replicar sus imágenes y actuaciones sin supervisión ni pago. Este movimiento refleja una crisis ética más amplia, en la que el uso de grandes volúmenes de datos generados por humanos para entrenar modelos se considera cada vez más como una forma de explotación, lo que exige nuevos marcos legales para proteger la propiedad intelectual y el trabajo creativo. Al mismo tiempo, la integridad técnica de los sistemas de IA enfrenta desafíos imprevistos que amenazan su fiabilidad. Las investigaciones indican que entrenar modelos con contenido generado por IA puede dar lugar a un ciclo degenerativo, degradando gradualmente la calidad de las salidas. Además, los esfuerzos por optimizar los modelos en pos de la eficiencia o la reducción de costos han provocado caídas significativas en el rendimiento en tareas específicas, como las matemáticas. Estos problemas sugieren que el aumento del volumen de datos y modelos no garantiza una mejora, y que las metodologías actuales pueden introducir inadvertidamente sesgos o errores difíciles de detectar o revertir. Estos hallazgos son profundamente relevantes para los datos abiertos, ya que exponen la fragilidad y los riesgos éticos inherentes a los ecosistemas de datos no regulados. Si los conjuntos de datos abiertos utilizados para el entrenamiento contienen datos sintéticos o reflejan sesgos sistémicos, pueden producir resultados de IA poco fiables y perjudiciales. Esta situación exige una mayor transparencia, una gobernanza rigurosa de los datos y una reevaluación de cómo se curan y comparten los datos abiertos, asegurando que la búsqueda de conjuntos de datos más amplios no comprometa la precisión, la equidad ni los derechos de los creadores de datos.
Fuente: newscientist.comPublicado el 2023-07-29