Descripción general
Todos los plugins de Kong se ejecutan en la ruta de la petición. Una cadena montada a lo largo de dos años por distintos equipos puede añadir fácilmente más latencia que el propio servicio upstream al que da acceso, y los plugins personalizados en Lua que hacen llamadas de red bloqueantes suelen ser los culpables.
Reto
La latencia p99 del gateway había ido creciendo de forma sostenida sin que pudiera atribuirse a ningún despliegue concreto. La cadena de plugins incluía varios plugins de autenticación con responsabilidades solapadas, un plugin personalizado en Lua que hacía una consulta síncrona a un servicio externo y plugins de logging que escribían en un destino que se saturaba de forma intermitente.
Entorno
Kong en Kubernetes delante de servicios de autorización de pagos con presupuestos estrictos de latencia de extremo a extremo.
Enfoque
AceMQ instrumentó el gateway para atribuir la latencia por plugin y por fase, en lugar de tratar la cadena como una única cifra, y después realizó comparaciones controladas desactivando plugins de uno en uno. Así se distinguieron los plugins que consumían tiempo real de los que solo parecían sospechosos.
Solución
- Atribución de la latencia de las peticiones por plugin y por fase de ejecución, en lugar de a la cadena en su conjunto
- Comparaciones A/B controladas desactivando plugins de uno en uno con una carga similar a la de producción
- Identificación de un plugin personalizado en Lua que hacía una llamada externa bloqueante en la fase access
- Consolidación de los plugins de autenticación solapados en una única ruta verificada
- Recomendación de logging asíncrono o con buffer donde un destino saturado añadía latencia de cola
- Definición de un presupuesto de latencia por plugin al que deben ajustarse los plugins nuevos
Resultado final
La latencia p99 añadida por el gateway se redujo de forma considerable tras rehacer el plugin personalizado bloqueante y consolidar la cadena de autenticación, y el equipo dispone ahora de un presupuesto de latencia con el que evaluar los futuros plugins.