Google joins the war on AI hallucination with its massive Data Commons knowledge graph

Los modelos de lenguaje grandes (LLM) suelen generar información alucinada e incorrecta porque funcionan como herramientas predictivas en lugar de entidades capaces de razonar. Esta inexactitud persistente obstaculiza el desarrollo de una inteligencia artificial verdaderamente fiable. Para abordar este desafío, Google ha presentado DataGemma, un modelo de código abierto diseñado para mejorar significativamente la integridad factual de las respuestas de la IA, aprovechando su extensa infraestructura. DataGemma combate la desinformación integrando Data Commons de Google, un enorme grafo de conocimiento interconectado. Utiliza dos estrategias principales: la Generación Aumentada por Recuperación (RAG), que recopila datos verificados del grafo antes de formular respuestas, y la Generación Intercalada por Recuperación, que contrasta el texto generado con hechos establecidos. Estos métodos permiten una curación dinámica de conjuntos de datos, superando los datos de entrenamiento estáticos para garantizar que las salidas estén fundamentadas en una realidad verificable y no en conjeturas probabilísticas. Esta iniciativa es altamente relevante para la comunidad de datos abiertos, ya que demuestra cómo los conjuntos de datos públicos estructurados y de alta calidad pueden mejorar directamente la fiabilidad de la IA. Al liberar estos modelos, Google destaca el papel crucial de los ecosistemas de datos accesibles y bien mantenidos para mitigar los sesgos y errores de la IA. Subraya que el futuro de una inteligencia artificial confiable depende en gran medida de la disponibilidad y la integración de robustos grafos de conocimiento abiertos, ofreciendo una vía para la adopción más amplia en la industria de la veracidad basada en datos.

Source: androidpolice.com
Published on 2024-09-14

FOIA request reveals emails and voicemails threatening Gary Gensler »

Datos Abiertos (Open data)

Related news