Kong's new open source AI Gateway makes building multi-LLM apps easier | TechCrunch
Kong ha presentado una pasarela de IA de código abierto diseñada para agilizar la integración de modelos de lenguaje grandes (LLM) en aplicaciones existentes. Esta herramienta permite a los equipos de desarrollo y operaciones acceder a múltiples proveedores de LLM a través de una única interfaz, reduciendo significativamente la necesidad de modificar el código y mejorando la productividad. Al considerar la IA como una evolución natural del uso de APIs, la plataforma aborda la creciente demanda de acceso centralizado a diversas tecnologías de IA generativa, posicionando la infraestructura de APIs como la columna vertebral esencial para la adopción moderna de la inteligencia artificial. Una preocupación principal para las organizaciones que adoptan estos modelos es la seguridad de los datos y el cumplimiento normativo, especialmente en lo que respecta a la filtración de información sensible. La nueva pasarela mitiga estos riesgos mediante características especializadas como la gestión de credenciales, el registro del tráfico y la eliminación automática de información de identificación personal mediante transformadores de respuesta. Estas capacidades permiten a las empresas aplicar estrictas directrices de ingeniería de prompts y gestionar cuotas de manera centralizada, asegurando que la gobernanza de los datos permanezca robusta incluso al aprovechar modelos externos basados en la nube. Este lanzamiento es altamente relevante para el ecosistema de datos abiertos, ya que democratiza el acceso a potentes herramientas de IA mientras enfatiza patrones de interacción seguros y transparentes. Al mantener las características principales de IA gratuitas y de código abierto, Kong fomenta la experimentación generalizada y la estandarización en la forma en que se procesan y protegen los datos. Este enfoque promueve un entorno más interconectado y seguro donde los desarrolladores pueden innovar sin quedar atados a ecosistemas propietarios, apoyando en última instancia los objetivos más amplios de accesibilidad y uso responsable de los datos en la era de la IA generativa.
Source: techcrunch.comPublished on 2024-02-16