Présentation
WSO2 API Manager peut évaluer le throttling soit localement sur chaque nœud de passerelle, soit de manière centralisée via le traffic manager. Lorsque des nœuds de passerelle perdent leur connexion au traffic manager, ou que les topics d'événements qui les relient sont mal configurés, les décisions de throttling divergent et la limite réellement appliquée ne correspond plus à la politique publiée.
Défi
Des consommateurs abonnés à une offre au volume dépassaient les limites de leur abonnement, mais seulement par intermittence et sans qu'on puisse le reproduire sur un nœud en particulier. Le nombre de nœuds de passerelle avait été augmenté, et la configuration du récepteur d'événements du traffic manager sur les nouveaux nœuds ne correspondait pas à celle des nœuds d'origine : les événements de décision de throttling ne parvenaient donc pas à tous les nœuds. Sous charge, l'écart se creusait.
Environnement
WSO2 API Manager sur Kubernetes avec plusieurs nœuds de passerelle, une couche traffic manager et un annuaire d'utilisateurs partagé.
Approche
AceMQ a suivi les événements de décision de throttling du traffic manager jusqu'à chaque nœud de passerelle et identifié ceux qui ne les recevaient pas. Nous avons corrigé la configuration du récepteur d'événements, puis validé la cohérence du throttling sous charge en envoyant délibérément du trafic vers chaque nœud.
Solution
- Suivi du flux des événements de décision de throttling, du traffic manager jusqu'à chaque nœud de passerelle, pour localiser les manques
- Correction de la configuration du récepteur d'événements et des topics sur les nœuds de passerelle ajoutés lors de la montée en charge horizontale
- Alignement des niveaux de politiques de throttling et des modèles de clés pour que les politiques soient évaluées de façon identique sur tous les nœuds
- Définition d'un comportement en cas de défaillance pour les nœuds de passerelle qui perdent la connexion au traffic manager
- Validation des limites appliquées sous charge, avec du trafic envoyé vers chaque nœud individuellement
- Modélisation de la configuration des nœuds de passerelle sous forme de templates pour éviter toute dérive lors des futures extensions
Résultat obtenu
Le throttling appliqué correspond désormais aux niveaux d'abonnement publiés sur tous les nœuds de passerelle, et l'ajout de capacité de passerelle ne risque plus de réintroduire la divergence.