Descripción general
WSO2 API Manager puede evaluar el throttling de forma local en cada nodo gateway o de forma centralizada a través del traffic manager. Cuando los nodos gateway pierden la conexión con el traffic manager, o cuando los topics de eventos entre ellos están mal configurados, las decisiones de throttling divergen y el límite que se aplica deja de coincidir con la política publicada.
Reto
Los consumidores de un nivel con medición de uso superaban los límites de su suscripción, pero solo de forma intermitente y sin que se pudiera reproducir en ningún nodo concreto. Se habían añadido nodos gateway, y la configuración del event receiver del traffic manager en los nodos nuevos no coincidía con la de los originales, así que los eventos de decisión de throttling no llegaban a todos. Con carga, la divergencia aumentaba.
Entorno
WSO2 API Manager en Kubernetes con varios nodos gateway, una capa de traffic manager y un almacén de usuarios compartido.
Enfoque
AceMQ siguió el recorrido de los eventos de decisión de throttling desde el traffic manager hasta cada nodo gateway e identificó los nodos que no los recibían. Corregimos la configuración del event receiver y después validamos la coherencia del throttling bajo carga dirigiendo tráfico de forma deliberada a cada nodo.
Solución
- Seguimiento del flujo de eventos de decisión de throttling desde el traffic manager hasta cada nodo gateway para encontrar los huecos
- Corrección de la configuración del event receiver y de los topics en los nodos gateway añadidos durante el escalado
- Alineación de los niveles de las políticas de throttling y de las plantillas de claves para que las políticas se evalúen igual en todos los nodos
- Definición del comportamiento ante fallos para los nodos gateway que pierden la conectividad con el traffic manager
- Validación de los límites aplicados bajo carga con tráfico dirigido a cada nodo por separado
- Configuración de los nodos gateway basada en plantillas para que los futuros escalados no puedan desviarse
Resultado final
El throttling aplicado coincidió con los niveles de suscripción publicados en todos los nodos gateway, y añadir capacidad de gateway ya no supone el riesgo de reintroducir la divergencia.