AI needs training to be ethical as well as accurate, Bryant expert says

AI needs training to be ethical as well as accurate, Bryant expert says

Los chatbots de IA no aprenden la ética de manera inherente como lo hacen los seres humanos; en cambio, los desarrolladores deben integrar activamente valores a través de los datos de entrenamiento, la retroalimentación humana y las reglas codificadas. Sin embargo, estos mecanismos a menudo fallan, lo que da lugar a salidas controvertidas donde bien puede filtrarse contenido tóxico o las salvaguardas bien intencionadas provocan inexactitudes históricas. Esta tensión resalta la dificultad de equilibrar las consideraciones éticas con la precisión factual en los sistemas automatizados. El artículo sostiene que, si bien la precisión puede anclarse con frecuencia a una verdad objetiva, la ética sigue siendo subjetiva y dependiente de la cultura. En consecuencia, la precisión debería tener generalmente prioridad cuando sean posibles errores factuales, permitiendo que los usuarios formulen sus propios juicios éticos. No obstante, en escenarios ambiguos que carecen de respuestas claramente correctas o incorrectas, el desafío se intensifica, ya que las preferencias morales varían significativamente entre diferentes contextos culturales. Esta investigación es fundamental para open_data porque subraya que los marcos éticos no pueden ser universales ni únicos. Las iniciativas de datos abiertos y las herramientas de IA públicas deben tener en cuenta el pluralismo cultural adoptando sistemas flexibles que respeten los diversos valores de los usuarios. Al preguntar a los usuarios sobre sus preferencias éticas, los desarrolladores pueden crear marcos inclusivos que se alineen tanto con los objetivos organizacionales como con las normas culturales locales. Este enfoque garantiza que los sistemas de IA abiertos reflejen la diversidad social en lugar de imponer un estándar ético monolítico, potencialmente sesgado, a una audiencia global.

Noticias relacionadas

• The high-stakes push to build Nigeria’s first open-source LLM
• Neon, a buzzy app that pays to record your calls for AI training data, goes offline to address a security scandal
• Balancing Privacy, Compliance And Research Integrity
• Milestone Systems acquires brighter AI adding state-of-the-art anonymization technology
• Cómo proteger tu billetera virtual ante estafas como phishing y smishing