概要
QuotaとSpikeArrestは、異なる問題を解決するもので、挙動も異なります。SpikeArrestはメッセージプロセッサーのレベルで瞬間的なレートを平準化し、Quotaは一定の期間にわたって分散カウンターで回数を数えます。一方が必要な場面でもう一方を設定すると、この顧客で起きていた症状がそのまま現れます。
課題
パートナーは、契約したコール数を大きく下回る段階でスロットリングの応答を受け取っていました。その一方で、単一のパートナーからの本物のトラフィックバーストはバックエンドまで到達し、性能を低下させていました。SpikeArrestはメッセージプロセッサーが1台であることを前提としたレートに設定されており、Quotaポリシーは分散かつ同期のカウントとして構成されていなかったため、プロセッサー間でカウントが食い違っていました。
環境
予約および在庫のバックエンドの前段に置かれたApigee X。パートナーの階層ごとのQuotaはAPIプロダクトで定義。
アプローチ
AceMQは、意図していた商取引上のレート制限を、バーストの平準化と契約上のコール数という挙動ごとに正しいポリシーへ割り当て直し、カウンターの分散設定を修正しました。そのうえで、パートナーからの定常的な負荷と現実的なバーストの両方を再現する負荷プロファイルで検証しました。
ソリューション
- バーストの平準化(SpikeArrest)と契約上のコール数の制御(Quota)を明確に分離
- メッセージプロセッサー間でQuotaのカウントが食い違わないよう、分散かつ同期のカウントを有効化
- Quotaの識別子を、プロキシレベルのデフォルトではなくAPIプロダクトとデベロッパーアプリに合わせて設定
- 実際にトラフィックを処理しているメッセージプロセッサーの台数を考慮して、SpikeArrestのレートを修正
- 展開前に、持続的なパートナートラフィックと現実的なバーストの両方のプロファイルで負荷試験を実施
結果
契約したコール数を下回る段階で正当なパートナートラフィックが拒否されることはなくなり、バーストトラフィックはそのままバックエンドに届くのではなく、ゲートウェイで平準化されるようになりました。