概覽
AceMQ 不負責維運 Apigee,那是 Google 的工作。我們做的是協助團隊除錯並調校他們在 Apigee 之上建置的部分:proxy 邏輯、policy 鏈、shared flow、target server 設定,以及 Apigee 與其前端所代理的後端之間的整合層。這正是平台技術支援通常不會碰的那一層。
挑戰
好幾個 proxy 的延遲已經增加到違反內部 SLA 的程度,而平台技術支援也正確地回報執行環境一切正常。這些 proxy 包含執行同步工作的 JavaScript policy、呼叫內部身分服務卻沒有設定逾時的 ServiceCallout,以及在高流量下擷取完整請求與回應內容的訊息酬載日誌。
環境
Google Cloud 上的 Apigee X,作為容器化後端服務的前端,proxy 由多個內部團隊在不同時期開發。
做法
AceMQ 使用 Apigee trace session,將每個 proxy 流程中的時間歸屬到個別 policy,再以程式碼的角度檢視 proxy bundle。我們把 proxy bundle 當成一個接受效能審查的應用程式,而不是一份設定。
解決方案
- 使用 trace session 將延遲歸屬到請求與回應流程中的個別 policy
- 為呼叫外部相依服務的 ServiceCallout policy 設定明確的逾時與備援機制
- 在有同等行為可用時,以原生 policy 取代 JavaScript policy 中的同步工作
- 縮小訊息日誌範圍,讓完整酬載擷取不再於高流量路徑上執行
- 依後端的 keepalive 行為檢視 target server 與連線重複使用設定
- 建立新 proxy 推送上線前的效能審查步驟
成效
Proxy 增加的延遲回到內部 SLA 範圍內,團隊也獲得一套可重複使用的方法,能將延遲歸屬到個別 policy,而不再把整個 proxy 變慢的問題升級給平台技術支援。