概覽
一家身分識別服務供應商以設計關聯式資料表的方式為 Cassandra 建模,接著又加上次要索引,來涵蓋主鍵無法服務的查詢。部分分割區已膨脹到數 GB,而依賴索引的查詢則會擴散到環上的每一個節點。AceMQ 受託重新設計資料模型。
挑戰
Cassandra 獎勵以查詢模式為中心的建模,懲罰以實體為中心的建模。重新設計必須限制分割區成長、讓平台的主要查詢由單一副本集即可服務,而且必須能逐步導入——這家供應商無法為了整批重建資料表而停止寫入。
環境
在 Kubernetes 上執行的 Apache Cassandra,支撐身分驗證與憑證生命週期服務。
做法
AceMQ 盤點應用程式發出的每一個查詢,再反推出服務這些查詢所需的資料表;只要能消除擴散查詢,就接受反正規化。分割區大小依據未來數年的成長預估,而非目前的資料量;遷移則設計為以雙重寫入執行,讓切換過程完全沒有停機時段。
解決方案
- 盤點應用程式實際的查詢模式,並據此推導出所需的資料表設計
- 導入時間分桶與雜湊分桶,依多年成長預估限制分割區大小
- 以專門設計的反正規化資料表取代次要索引查詢,消除全叢集擴散
- 選擇叢集鍵與排序方式,讓範圍掃描與分頁不需在記憶體中排序
- 設計雙重寫入與回填的遷移路徑,讓切換時不必凍結寫入
- 設定分割區大小與資料列數量的防護門檻並加以監控,以便在日後開發中及早發現退化
成效
全叢集擴散查詢已從熱路徑中消除,最大的分割區也回到建議上限的一個數量級以內。讀取延遲在整個鍵空間中變得可預測,不再隨分割區大小而波動。