返回所有使用案例

顧問服務金融服務/支付

一套讓快取失效出於決策、而非意外的快取設計

全球支付處理商

為延遲敏感的平台設計多區域 Memcached 拓撲、key 命名空間與快取失效策略的顧問服務。

概覽

一家拓展新區域的支付處理商,需要一套不會在跨區域時讀到過時資料的快取設計。AceMQ 在擴展開始之前,就完成了拓撲、命名空間與失效策略的設計。

挑戰

現有的單一區域架構仰賴各個服務在寫入後自行刪除 key,而且每個服務都使用自己的 key 命名方式。沒有人完整掌握某次寫入應該讓哪些 key 失效,因此會發生讀到過時資料的情況,而解決方式是縮短 TTL,結果又把負載推回資料庫。若將這個模式延伸到多個區域,問題只會加倍,因為一個區域的寫入根本無法讓另一個區域的快取副本失效。

環境

部署於 Kubernetes 上的多區域 AWS 環境,支付授權路徑對延遲高度敏感,並有區域性資料落地限制。

做法

我們以明確的擁有權為核心設計快取:每個 key 命名空間只有一個負責其生命週期的擁有服務。這套設計不在各區域之間分散執行刪除,而是採用以版本作為 key 的命名空間,讓失效只需一次版本號遞增,使過時項目無法再被存取,並自然過期。

解決方案

  1. 每個命名空間只有一個擁有服務的 key 命名空間架構,終結共用的隱性擁有權
  2. 以版本作為 key 的命名空間,讓失效只需遞增一次版本,而不必逐一列舉刪除
  3. 遵守資料落地邊界的區域本地快取層,並明確規定哪些資料絕不跨區域快取
  4. 依可容忍的過時程度為各類資料制定 TTL 策略,取代過去用來掩蓋失效錯誤的一律短 TTL
  5. 定義故障行為,讓快取中斷時降級為有併發限制的直接讀取,而不是引發資料庫湧入(stampede)
  6. 指引哪些情況更適合使用持久化儲存而非易失性快取,讓 Memcached 只用於適合它的工作負載

成效

跨區域讀到過時資料的問題在設計階段就被排除,而不只是被緩解,因此 TTL 得以大幅延長,並降低資料庫的讀取負載。以版本作為 key 的命名空間模式,後來也被原本範圍之外的團隊採用。

技術

MemcachedRedisKubernetesTerraformMySQL

需要 Memcached 架構指引嗎?

AceMQ 的資深 Memcached 工程師以前就處理過這類專案。無論您需要架構指引、實作面的問題修復,或是長期的託管合作關係,我們都已準備好協助您。