Descripción general
Cada plugin de Kong se ejecuta en la ruta de la solicitud. Una cadena armada durante dos años por distintos equipos puede agregar fácilmente más latencia que el servicio upstream al que protege, y los plugins personalizados en Lua que hacen llamadas de red bloqueantes suelen ser los culpables.
Desafío
La latencia p99 del gateway había crecido de forma sostenida sin que se pudiera culpar a un despliegue en particular. La cadena de plugins incluía varios plugins de autenticación con responsabilidades superpuestas, un plugin personalizado en Lua que hacía una consulta síncrona a un servicio externo y plugins de logging que escribían en un destino que se saturaba de forma intermitente.
Entorno
Kong en Kubernetes frente a servicios de autorización de pagos con presupuestos estrictos de latencia de extremo a extremo.
Enfoque
AceMQ instrumentó el gateway para atribuir la latencia por plugin y por fase, en lugar de tratar la cadena como un único número, y luego ejecutó comparaciones controladas desactivando plugins individuales. Así se separaron los plugins que realmente consumían tiempo de los que solo parecían sospechosos.
Solución
- Atribución de la latencia de las solicitudes por plugin y por fase de ejecución, en lugar de a la cadena en su conjunto
- Comparaciones A/B controladas desactivando plugins individuales bajo una carga similar a la de producción
- Identificación de un plugin personalizado en Lua que hacía una llamada externa bloqueante en la fase access
- Consolidación de los plugins de autenticación superpuestos en una única ruta verificada
- Recomendación de logging asíncrono o con buffer donde un destino saturado agregaba latencia de cola
- Entrega de un presupuesto de latencia por plugin dentro del cual deben encajar los plugins nuevos
Resultado final
La latencia p99 agregada por el gateway bajó de forma considerable una vez que se rediseñó el plugin personalizado bloqueante y se consolidó la cadena de autenticación, y el equipo obtuvo un presupuesto de latencia para evaluar los plugins futuros.