Kong Open Source New AI Gateway to Help Developers Easily Build Multi-LLM Apps
Kong Inc. ha presentado una suite de complementos de código abierto para Kong Gateway 3.6, transformándolo en una puerta de enlace integral para inteligencia artificial (AI Gateway). Esta actualización permite a las organizaciones integrar y orquestar sin problemas múltiples modelos de lenguaje grandes (LLM) sin necesidad de modificar el código de las aplicaciones. Al centralizar estas capacidades, la plataforma permite a los desarrolladores implementar rápidamente funciones de IA, manteniendo estrictos controles de seguridad, visibilidad y cumplimiento en todo el tráfico de IA. El lanzamiento aborda necesidades críticas de infraestructura para la adopción de IA, incluida la gestión unificada de credenciales y la ingeniería avanzada de prompts. Características clave como transformadores sin código y barreras de protección de prompts permiten a los equipos aplicar gobernanza y adaptar dinámicamente el comportamiento de la IA. Esta arquitectura reduce significativamente la complejidad operativa de gestionar diversas integraciones de LLM, asegurando que las empresas puedan aprovechar modelos líderes en la industria mientras protegen datos sensibles y cumplen con las normativas regulatorias. Este desarrollo es altamente relevante para los principios de datos abiertos, ya que democratiza el acceso a potentes herramientas de IA al liberar públicamente el código subyacente. La publicación de estos complementos como código abierto fomenta la transparencia y la innovación impulsada por la comunidad, permitiendo a las organizaciones auditar, modificar y contribuir a la seguridad y funcionalidad de sus puertas de enlace de IA. Empodera a la comunidad de desarrolladores para construir sistemas de IA más robustos, responsables e interoperables sin depender de soluciones de código cerrado, promoviendo así la confianza y la colaboración en el ecosistema de código abierto.
Source: pressreleases.responsesource.comPublished on 2024-02-16
Related news
- Kong targets democratization of multi-LLM usage through open-source AI Gateway
- Kong's new open source AI Gateway makes building multi-LLM apps easier | TechCrunch
- This German nonprofit is building an open voice assistant that anyone can use | TechCrunch
- A beginners guide to fine tuning LLM using LoRA