Présentation
Un éditeur SaaS s'apprêtait à doubler son empreinte Memcached pour améliorer un taux de succès décevant. AceMQ a d'abord audité la couche de cache pour déterminer si la capacité était réellement la contrainte.
Défi
Le taux de succès global semblait médiocre, ce qui faisait de l'ajout de mémoire la réponse évidente. Mais ce chiffre global masquait deux problèmes distincts. Une part significative des lectures portait sur des clés qui ne sont jamais lues qu'une fois : des défauts de cache par construction, qu'aucune quantité de mémoire ne corrige. Et la répartition des clés sur l'anneau était très déséquilibrée, car une différence de configuration du hachage entre deux bibliothèques clientes faisait que certains nœuds, proches de leur capacité, évinçaient des données tandis que d'autres restaient à moitié vides.
Environnement
Couche Memcached sur AWS sollicitée par des services écrits dans deux langages et utilisant des bibliothèques clientes différentes.
Approche
L'audit décompose le taux de succès par modèle de clé au lieu de le traiter comme un chiffre unique, et mesure la répartition réelle des clés et de la mémoire sur chaque nœud. On distingue ainsi le trafic réellement impossible à mettre en cache de la charge qui bénéficierait de davantage de mémoire, et l'on met en évidence les problèmes de répartition que l'ajout de nœuds ne résoudrait pas.
Solution
- Décomposition du taux de succès par préfixe de clé et par modèle d'accès, en distinguant les clés lues une seule fois de celles réellement réutilisées
- Mesure du nombre de clés et de la répartition de la mémoire par nœud pour révéler le déséquilibre de l'anneau
- Comparaison de la configuration du hachage des bibliothèques clientes dans les deux langages, identifiant l'incohérence à l'origine du déséquilibre
- Estimation de la taille de l'ensemble de travail par catégorie de clés, pour que les besoins en capacité reposent sur des mesures plutôt que sur un doublement au jugé
- Identification des modèles d'accès impossibles à mettre en cache, transmis aux équipes applicatives comme candidats à un retrait du chemin de cache
- Recommandation de dimensionnement avec le taux de succès attendu pour chaque option, y compris celle de n'ajouter aucune capacité
Résultat obtenu
La correction de l'incohérence de hachage côté client a rééquilibré l'anneau et nettement relevé le taux de succès, sans aucun nouveau matériel. Le doublement de capacité prévu a été annulé au profit d'une augmentation modeste ciblée sur une seule catégorie de clés.