概要
AceMQがApigeeを運用しているわけではありません。運用しているのはGoogleです。AceMQが行うのは、その上に構築したものをチームがデバッグし、チューニングするための支援です。プロキシのロジック、ポリシーチェーン、共有フロー、ターゲットサーバーの設定、そしてApigeeとその背後のバックエンドの間の連携レイヤーがその対象です。これは、プラットフォームのサポートが一般的には手を出さないレイヤーです。
課題
複数のプロキシでレイテンシーが社内SLAに違反するほど悪化していましたが、プラットフォームのサポートは、ランタイムは正常であると正しく報告していました。プロキシには、同期処理を行うJavaScriptポリシー、タイムアウトが設定されていない社内のIDサービスへのServiceCallout、そして大量のトラフィックに対してリクエストとレスポンスの本文をすべて記録するメッセージペイロードのロギングが含まれていました。
環境
コンテナ化されたバックエンドサービスの前段に置かれたGoogle Cloud上のApigee X。プロキシは複数の社内チームが長年にわたって開発。
アプローチ
AceMQは、Apigeeのトレースセッションを使って各プロキシフロー内の個々のポリシーに処理時間を割り当て、そのうえでプロキシバンドルをコードとしてレビューしました。プロキシバンドルを設定としてではなく、パフォーマンスレビューの対象となるアプリケーションとして扱いました。
ソリューション
- トレースセッションを使い、リクエストフローとレスポンスフロー内の個々のポリシーにレイテンシーを割り当て
- 外部の依存先へのServiceCalloutポリシーに、明示的なタイムアウトとフォールバックを設定
- 同等の挙動を実現できる箇所では、JavaScriptポリシーによる同期処理をネイティブポリシーに置き換え
- メッセージロギングの範囲を縮小し、大量トラフィックの経路でペイロード全体を記録しないように変更
- ターゲットサーバーとコネクション再利用の設定を、バックエンドのkeepaliveの挙動と照らし合わせてレビュー
- 新しいプロキシを昇格させる前に、プロキシのパフォーマンスレビューを行う手順を確立
結果
プロキシによって加わるレイテンシーは社内SLAの範囲内に戻り、チームは、プロキシ全体の遅さをプラットフォームのサポートにエスカレーションするのではなく、レイテンシーをポリシー単位で特定する再現性のある手法を身につけました。