Senate Dems press tech execs on AI content promoting eating disorders
Senate Dems press tech execs on AI content promoting eating disorders
El senador Mark Warner está instando a las principales empresas de tecnología a implementar salvaguardas más estrictas contra la proliferación de contenido perjudicial sobre trastornos alimentarios generado por inteligencia artificial. Su intervención pone de manifiesto una grave omisión: los modelos generativos proporcionan, de manera inadvertida, consejos peligrosos paso a paso para métodos de pérdida de peso poco saludables. Esta preocupación se ha intensificado en medio de esfuerzos legislativos bipartidistas para regular la IA y proteger a los menores de los efectos negativos de los algoritmos de las redes sociales y del contenido digital no regulado. La relevancia de esto para los datos abiertos (open_data) radica en el papel fundamental que desempeñan los conjuntos de datos de entrenamiento en la configuración del comportamiento de la IA. La investigación de Warner reveló que los datos públicos extraídos (scraped) por los modelos de IA contienen una amplia cantidad de imágenes y textos asociados con trastornos alimentarios, los cuales los algoritmos incorporan en sus procesos de toma de decisiones. Esto demuestra que, sin una curación y filtrado rigurosos de las fuentes de datos abiertos, los sistemas de IA corren el riesgo de perpetuar y amplificar daños sociales, lo que convierte la transparencia de los datos y la obtención ética de los mismos en componentes esenciales de la seguridad de la IA. En última instancia, este episodio subraya la necesidad de una gobernanza sólida en el desarrollo de la IA. Warner ha solicitado planes concretos a los líderes tecnológicos para abordar estas brechas de seguridad, reflejando un llamado más amplio a la supervisión gubernamental para garantizar que las tecnologías emergentes no exacerben las crisis de salud pública. La situación ilustra cómo las capacidades de la IA, si no están debidamente controladas, pueden representar riesgos significativos para poblaciones vulnerables, reforzando el argumento de que los marcos regulatorios deben evolucionar junto con los avances tecnológicos para prevenir daños previsibles.
Fuente: courthousenews.comPublicado el 2023-08-11