Descripción general
Un proveedor SaaS estaba a punto de duplicar su infraestructura de Memcached para mejorar una tasa de aciertos decepcionante. AceMQ evaluó primero la capa de caché para determinar si la capacidad era realmente la limitación.
Desafío
La tasa de aciertos agregada se veía baja, lo que hacía que más memoria pareciera la respuesta obvia. Pero el agregado ocultaba dos problemas distintos. Una parte importante de los gets correspondía a claves que solo se leen una vez: fallos de caché por diseño, que ninguna cantidad de memoria resuelve. Y la distribución de claves en el anillo era muy desigual, porque una diferencia en la configuración de hashing entre dos bibliotecas cliente hacía que algunos nodos estuvieran cerca de su capacidad y desalojando claves mientras otros estaban medio vacíos.
Entorno
Capa de Memcached en AWS a la que acceden servicios escritos en dos lenguajes con bibliotecas cliente distintas.
Enfoque
La evaluación desglosa la tasa de aciertos por patrón de claves en lugar de tratarla como un único número, y mide la distribución real de claves y de memoria por nodo. Así se separa el tráfico que realmente no se puede cachear de la carga de trabajo que sí se beneficiaría de más memoria, y quedan a la vista los problemas de distribución que agregar nodos no resolvería.
Solución
- Tasa de aciertos desglosada por prefijo de clave y patrón de acceso, separando las claves de lectura única de las que realmente se reutilizan
- Medición de la cantidad de claves y de la distribución de memoria por nodo para poner en evidencia el desbalance del anillo
- Comparación de la configuración de hashing de las bibliotecas cliente en ambos lenguajes, con la identificación de la discrepancia que causaba el desbalance
- Estimación del tamaño del working set por clase de clave, para que los requisitos de capacidad se basen en mediciones y no en una duplicación a ojo
- Identificación de los patrones de acceso que no se pueden cachear, devueltos a los equipos de aplicación como candidatos a salir de la ruta de caché
- Recomendación de dimensionamiento con la tasa de aciertos esperada para cada opción, incluida la de no agregar ninguna capacidad
Resultado final
Corregir la discrepancia de hashing de los clientes rebalanceó el anillo y elevó de forma considerable la tasa de aciertos sin hardware nuevo. Se canceló la duplicación de capacidad prevista y, en su lugar, se programó un aumento moderado dirigido a una sola clase de claves.