概覽
一家拓展新區域的支付處理商,需要一套不會在跨區域時讀到過時資料的快取設計。AceMQ 在擴展開始之前,就完成了拓撲、命名空間與失效策略的設計。
挑戰
現有的單一區域架構仰賴各個服務在寫入後自行刪除 key,而且每個服務都使用自己的 key 命名方式。沒有人完整掌握某次寫入應該讓哪些 key 失效,因此會發生讀到過時資料的情況,而解決方式是縮短 TTL,結果又把負載推回資料庫。若將這個模式延伸到多個區域,問題只會加倍,因為一個區域的寫入根本無法讓另一個區域的快取副本失效。
環境
部署於 Kubernetes 上的多區域 AWS 環境,支付授權路徑對延遲高度敏感,並有區域性資料落地限制。
做法
我們以明確的擁有權為核心設計快取:每個 key 命名空間只有一個負責其生命週期的擁有服務。這套設計不在各區域之間分散執行刪除,而是採用以版本作為 key 的命名空間,讓失效只需一次版本號遞增,使過時項目無法再被存取,並自然過期。
解決方案
- 每個命名空間只有一個擁有服務的 key 命名空間架構,終結共用的隱性擁有權
- 以版本作為 key 的命名空間,讓失效只需遞增一次版本,而不必逐一列舉刪除
- 遵守資料落地邊界的區域本地快取層,並明確規定哪些資料絕不跨區域快取
- 依可容忍的過時程度為各類資料制定 TTL 策略,取代過去用來掩蓋失效錯誤的一律短 TTL
- 定義故障行為,讓快取中斷時降級為有併發限制的直接讀取,而不是引發資料庫湧入(stampede)
- 指引哪些情況更適合使用持久化儲存而非易失性快取,讓 Memcached 只用於適合它的工作負載
成效
跨區域讀到過時資料的問題在設計階段就被排除,而不只是被緩解,因此 TTL 得以大幅延長,並降低資料庫的讀取負載。以版本作為 key 的命名空間模式,後來也被原本範圍之外的團隊採用。