Présentation
Un processeur de paiements en expansion vers de nouvelles régions avait besoin d'une conception de cache qui ne produise pas de lectures obsolètes d'une région à l'autre. AceMQ a conçu la topologie, le namespacing et la stratégie d'invalidation avant le début de l'expansion.
Défi
L'installation existante, sur une seule région, reposait sur la suppression des clés par chaque service après ses écritures, chacun avec son propre nommage de clés. Personne n'avait une vision complète des clés qu'une écriture donnée devait invalider, si bien que des lectures obsolètes se produisaient et étaient corrigées en raccourcissant les TTL — ce qui reportait la charge sur la base de données. Étendre ce modèle à plusieurs régions aurait multiplié le problème, puisqu'une écriture dans une région n'avait aucun moyen d'invalider une copie en cache dans une autre.
Environnement
Déploiement AWS multi-régions sur Kubernetes, chemins d'autorisation de paiement sensibles à la latence, contraintes régionales de résidence des données.
Approche
Nous avons conçu le cache autour d'une responsabilité explicite : chaque namespace de clés a un seul service propriétaire, responsable de son cycle de vie. Plutôt que de propager des suppressions entre régions, la conception utilise des namespaces versionnés, si bien qu'une invalidation se résume à un simple incrément de version qui rend les entrées obsolètes inaccessibles et les laisse expirer naturellement.
Solution
- Schéma de namespaces de clés avec un seul service propriétaire par namespace, mettant fin à une propriété partagée et implicite
- Namespaces versionnés pour que l'invalidation soit un simple incrément de version plutôt qu'une liste énumérée de suppressions
- Niveaux de cache locaux à chaque région, respectant les limites de résidence des données, avec des règles explicites sur ce qui n'est jamais mis en cache entre régions
- Stratégie de TTL par classe de données, fondée sur le degré d'obsolescence tolérable, en remplacement des TTL courts généralisés qui masquaient les bugs d'invalidation
- Comportement en cas de défaillance défini pour qu'une panne du cache se traduise par des lectures directes avec limites de concurrence plutôt que par une ruée sur la base de données
- Recommandations sur les cas où un stockage durable convient mieux qu'un cache volatil, en réservant Memcached aux charges qui s'y prêtent
Résultat obtenu
Les lectures obsolètes entre régions ont été éliminées dès la conception plutôt qu'atténuées, ce qui a permis d'allonger considérablement les TTL et de réduire la charge de lecture sur la base de données. Le pattern des namespaces versionnés a depuis été adopté par des équipes extérieures au périmètre initial.