Kong Open Source New AI Gateway to Help Developers Easily Build Multi-LLM Apps

Kong Inc. ha presentado una suite de complementos de código abierto para Kong Gateway 3.6, transformándolo en una puerta de enlace integral para inteligencia artificial (AI Gateway). Esta actualización permite a las organizaciones integrar y orquestar sin problemas múltiples modelos de lenguaje grandes (LLM) sin necesidad de modificar el código de las aplicaciones. Al centralizar estas capacidades, la plataforma permite a los desarrolladores implementar rápidamente funciones de IA, manteniendo estrictos controles de seguridad, visibilidad y cumplimiento en todo el tráfico de IA. El lanzamiento aborda necesidades críticas de infraestructura para la adopción de IA, incluida la gestión unificada de credenciales y la ingeniería avanzada de prompts. Características clave como transformadores sin código y barreras de protección de prompts permiten a los equipos aplicar gobernanza y adaptar dinámicamente el comportamiento de la IA. Esta arquitectura reduce significativamente la complejidad operativa de gestionar diversas integraciones de LLM, asegurando que las empresas puedan aprovechar modelos líderes en la industria mientras protegen datos sensibles y cumplen con las normativas regulatorias. Este desarrollo es altamente relevante para los principios de datos abiertos, ya que democratiza el acceso a potentes herramientas de IA al liberar públicamente el código subyacente. La publicación de estos complementos como código abierto fomenta la transparencia y la innovación impulsada por la comunidad, permitiendo a las organizaciones auditar, modificar y contribuir a la seguridad y funcionalidad de sus puertas de enlace de IA. Empodera a la comunidad de desarrolladores para construir sistemas de IA más robustos, responsables e interoperables sin depender de soluciones de código cerrado, promoviendo así la confianza y la colaboración en el ecosistema de código abierto.

Source: pressreleases.responsesource.com
Published on 2024-02-16