Microsoft's oops moment: Deleted AI project rises from the digital grave
Microsoft's oops moment: Deleted AI project rises from the digital grave
Microsoft retiró apresuradamente a WizardLM 2, un modelo de lenguaje grande de código abierto, tras darse cuenta de que carecía de pruebas esenciales de toxicidad. Este incidente destaca la tensión crítica entre la rápida innovación en el desarrollo de la inteligencia artificial y la necesidad de protocolos de seguridad rigurosos antes de su lanzamiento al público. A pesar de la rápida retirada, el modelo fue replicado con éxito por usuarios en repositorios principales, lo que demuestra la dificultad inherente de controlar el contenido digital una vez que ingresa al ecosistema abierto. Esta resiliencia subraya un desafío fundamental en la industria de la IA: garantizar que se cumplan los estándares de seguridad sin comprometer la accesibilidad que define el desarrollo de código abierto. Este evento es altamente relevante para open_data, ya que ilustra los riesgos asociados con datos y modelos no verificados en dominios públicos. Hace hincapié en la necesidad de marcos de gobernanza robustos que equilibren la transparencia con la seguridad, asegurando que las iniciativas abiertas no difundan inadvertidamente tecnologías dañinas o no probadas en la comunidad más amplia.
Fuente: androidauthority.comPublicado el 2024-04-24