概要
新たなリージョンへ展開する決済代行企業は、リージョンをまたいで古いデータを読み取ることのないキャッシュ設計を必要としていました。AceMQは、展開が始まる前にトポロジー、名前空間、無効化戦略を設計しました。
課題
既存のシングルリージョン構成では、各サービスが書き込み後に個別にキーを削除しており、キーの命名もサービスごとにばらばらでした。ある書き込みでどのキーを無効化すべきかを全体として把握している人はおらず、古いデータの読み取りが発生するたびにTTLを短くして対処していたため、負荷がデータベースに跳ね返っていました。このモデルをリージョンをまたいで広げれば、問題は何倍にもなります。あるリージョンでの書き込みが、別のリージョンにキャッシュされたコピーを無効化する手段がなかったからです。
環境
Kubernetes上のマルチリージョンAWS環境、レイテンシーに敏感な決済オーソリゼーションの経路、リージョンごとのデータ所在地の制約。
アプローチ
私たちは、明確な所有権を軸にキャッシュを設計しました。各キーの名前空間には、そのライフサイクルに責任を持つ所有サービスがちょうど1つだけあります。リージョンをまたいで削除を配信するのではなく、バージョンをキーに含めた名前空間を採用し、無効化はバージョンを1つ上げるだけで済むようにしました。これにより古いエントリーは参照されなくなり、自然に期限切れで消えていきます。
ソリューション
- 名前空間ごとに所有サービスを1つに定めるキーの名前空間の方式により、暗黙の共有所有を解消
- バージョンをキーに含めた名前空間により、無効化を削除対象の列挙ではなくバージョンの1回の更新で実現
- データ所在地の境界を守ったリージョンローカルのキャッシュ層と、リージョンをまたいで決してキャッシュしないものの明確なルール
- 無効化のバグを覆い隠すために一律に短くしていたTTLに代わり、許容できる鮮度に基づくデータ区分ごとのTTL戦略
- キャッシュ障害時にデータベースへの殺到を招くのではなく、同時実行数を制限した直接読み取りに縮退する障害時の挙動を定義
- 揮発性のキャッシュよりも永続的なストアが適している箇所に関するガイダンスを示し、Memcachedは適したワークロードに限定
結果
リージョンをまたいだ古いデータの読み取りは、緩和するのではなく設計段階で排除されました。その結果、TTLを大幅に延ばせるようになり、データベースの読み取り負荷も削減されました。バージョンをキーに含めた名前空間のパターンは、その後、当初の対象範囲外のチームにも採用されています。