Panoramica
WSO2 API Manager può valutare il throttling localmente su ciascun nodo gateway oppure centralmente tramite il traffic manager. Quando i nodi gateway perdono la connessione con il traffic manager, o quando gli event topic tra di essi sono configurati male, le decisioni di throttling divergono e il limite applicato smette di corrispondere alla policy pubblicata.
Sfida
I consumer di un tier a consumo superavano i limiti della propria subscription, ma solo a intermittenza e senza che il problema fosse riproducibile su un singolo nodo. I nodi gateway erano stati scalati e la configurazione dell'event receiver del traffic manager sui nuovi nodi non corrispondeva a quella degli originali, per cui gli eventi di decisione di throttling non raggiungevano tutti i nodi. Sotto carico, la divergenza aumentava.
Ambiente
WSO2 API Manager su Kubernetes con più nodi gateway, un tier di traffic manager e un user store condiviso.
Approccio
AceMQ ha tracciato gli eventi di decisione di throttling dal traffic manager fino a ciascun nodo gateway e ha individuato i nodi che non li ricevevano. Abbiamo corretto la configurazione dell'event receiver e poi verificato la coerenza del throttling sotto carico, indirizzando deliberatamente il traffico su ciascun nodo.
Soluzione
- Tracciato il flusso degli eventi di decisione di throttling dal traffic manager a ciascun nodo gateway per individuare le lacune
- Corretta la configurazione di event receiver e topic sui nodi gateway aggiunti durante lo scale-out
- Allineati tier delle policy di throttling e key template, così che le policy vengano valutate in modo identico su tutti i nodi
- Definito il comportamento in caso di guasto per i nodi gateway che perdono la connettività con il traffic manager
- Verificati i limiti applicati sotto carico, con traffico indirizzato su ciascun nodo singolarmente
- Configurazione dei nodi gateway gestita tramite template, così che i futuri scale-out non possano introdurre derive
Esito
Il throttling applicato corrisponde ai tier di subscription pubblicati su tutti i nodi gateway, e aggiungere capacità al gateway non rischia più di reintrodurre la divergenza.