Descripción general
WSO2 API Manager puede evaluar el throttling de forma local en cada nodo del gateway o de forma centralizada a través del traffic manager. Cuando los nodos del gateway pierden la conexión con el traffic manager, o cuando los topics de eventos entre ellos están mal configurados, las decisiones de throttling divergen y el límite que se aplica deja de coincidir con la política publicada.
Desafío
Los consumidores de un nivel medido superaban los límites de su suscripción, pero solo de forma intermitente y sin que pudiera reproducirse en un nodo en particular. Se había escalado la cantidad de nodos del gateway, y la configuración del event receiver del traffic manager en los nodos nuevos no coincidía con la de los originales, así que los eventos de decisión de throttling no llegaban a todos. Bajo carga, la divergencia aumentaba.
Entorno
WSO2 API Manager en Kubernetes con varios nodos de gateway, una capa de traffic manager y un user store compartido.
Enfoque
AceMQ siguió los eventos de decisión de throttling desde el traffic manager hasta cada nodo del gateway e identificó los nodos que no los recibían. Corregimos la configuración del event receiver y luego validamos la consistencia del throttling bajo carga, dirigiendo tráfico de forma deliberada a cada nodo.
Solución
- Seguimiento del flujo de eventos de decisión de throttling desde el traffic manager hasta cada nodo del gateway para encontrar los huecos
- Corrección de la configuración del event receiver y de los topics en los nodos del gateway agregados durante el escalado horizontal
- Alineación de los niveles de las políticas de throttling y de los key templates para que las políticas se evalúen de forma idéntica en todos los nodos
- Definición del comportamiento ante fallas de los nodos del gateway que pierden la conectividad con el traffic manager
- Validación de los límites aplicados bajo carga, con tráfico dirigido a cada nodo por separado
- Configuración de los nodos del gateway basada en plantillas para que los futuros escalados horizontales no generen desvíos
Resultado final
El throttling aplicado coincidió con los niveles de suscripción publicados en todos los nodos del gateway, y agregar capacidad al gateway ya no implica el riesgo de que vuelva a aparecer la divergencia.