A group behind Stable Diffusion wants to open source emotion-detecting AI | TechCrunch
El proyecto Open Empathic de LAION busca democratizar la inteligencia artificial emocional mediante la recopilación, a través de crowdsourcing, de un conjunto de datos diverso que permita a los modelos de código abierto reconocer las emociones humanas en el habla y el tono. Al permitir que voluntarios etiqueten fragmentos de audio con etiquetas emocionales matizadas, la iniciativa pretende ir más allá de la comprensión literal del texto para crear interacciones más auténticas y empáticas entre humanos e inteligencia artificial. Este esfuerzo aborda directamente una brecha significativa en el ecosistema de datos abiertos, donde las herramientas sofisticadas de inteligencia emocional han permanecido en gran medida como propiedad privada o inaccesibles para el público en general. Sin embargo, la validez científica de la detección de emociones es altamente cuestionada, ya que no existen marcadores universales de las emociones y los matices culturales influyen enormemente en su expresión. En consecuencia, estos sistemas son propensos a sesgos graves, a menudo interpretando erróneamente dialectos, discapacidades o diferencias culturales como emociones negativas. Esta dependencia de la anotación humana subjetiva corre el riesgo de perpetuar prejuicios implícitos, lo que podría conducir a resultados discriminatorios en áreas críticas como la contratación laboral, la educación y las fuerzas del orden. La relevancia de los datos abiertos radica en la tensión entre transparencia y seguridad. Si bien LAION defiende un enfoque de código abierto para evitar el control monopolístico sobre capacidades avanzadas de inteligencia artificial, la naturaleza no regulada de los datos aportados por la comunidad dificulta la garantía de calidad. Esto destaca un desafío crucial para la comunidad de datos abiertos: cómo construir conjuntos de datos inclusivos, precisos y seguros sin caer en los sesgos inherentes a la etiquetación humana subjetiva, especialmente cuando se enfrentan prohibiciones regulatorias estrictas sobre el reconocimiento emocional en sectores sensibles.
Source: techcrunch.comPublished on 2023-10-28