概要
WSO2 API Managerは、スロットリングをゲートウェイノードごとにローカルで評価することも、トラフィックマネージャーで一元的に評価することもできます。ゲートウェイノードがトラフィックマネージャーとの接続を失ったり、両者の間のイベントトピックの設定が誤っていたりすると、スロットリングの判定がノード間で食い違い、実際に適用される上限が公開しているポリシーと一致しなくなります。
課題
従量課金ティアのコンシューマーがサブスクリプションの上限を超過していましたが、それは断続的で、どの単一ノードでも再現できませんでした。ゲートウェイノードはスケールアップされていましたが、新しいノードのトラフィックマネージャーのイベントレシーバー設定が既存のノードと一致しておらず、スロットリングの判定イベントがすべてのノードに届いていませんでした。負荷がかかると、この食い違いはさらに広がりました。
環境
複数のゲートウェイノード、トラフィックマネージャー層、共有ユーザーストアで構成された、Kubernetes上のWSO2 API Manager。
アプローチ
AceMQは、スロットリングの判定イベントをトラフィックマネージャーから各ゲートウェイノードまで追跡し、イベントを受信できていないノードを特定しました。イベントレシーバーの設定を修正したうえで、各ノードに意図的にトラフィックを流し、負荷がかかった状態でのスロットリングの一貫性を検証しました。
ソリューション
- トラフィックマネージャーから各ゲートウェイノードへのスロットリング判定イベントの流れを追跡し、抜けている箇所を特定
- スケールアウト時に追加されたゲートウェイノードのイベントレシーバーとトピックの設定を修正
- スロットリングポリシーのティアとキーテンプレートを統一し、すべてのノードでポリシーが同じように評価されるように
- トラフィックマネージャーとの接続を失ったゲートウェイノードの障害時の挙動を追加
- 各ノードに個別にトラフィックを流し、負荷がかかった状態で実際に適用される上限を検証
- ゲートウェイノードの設定をテンプレート化し、将来のスケールアウトで設定がずれないように
結果
すべてのゲートウェイノードで、実際に適用されるスロットリングが公開しているサブスクリプションのティアと一致するようになり、ゲートウェイのキャパシティを追加しても食い違いが再発するおそれはなくなりました。