Volver a todos los casos de uso

EvaluaciónSoftware / Plataformas digitales

Comprobar si más memoria de caché resolvería algo antes de comprarla

Proveedor de plataforma SaaS B2B

Evaluación del dimensionamiento, la distribución de claves y la tasa de aciertos de Memcached para determinar si agregar capacidad realmente ayudaría.

Descripción general

Un proveedor SaaS estaba a punto de duplicar su infraestructura de Memcached para mejorar una tasa de aciertos decepcionante. AceMQ evaluó primero la capa de caché para determinar si la capacidad era realmente la limitación.

Desafío

La tasa de aciertos agregada se veía baja, lo que hacía que más memoria pareciera la respuesta obvia. Pero el agregado ocultaba dos problemas distintos. Una parte importante de los gets correspondía a claves que solo se leen una vez: fallos de caché por diseño, que ninguna cantidad de memoria resuelve. Y la distribución de claves en el anillo era muy desigual, porque una diferencia en la configuración de hashing entre dos bibliotecas cliente hacía que algunos nodos estuvieran cerca de su capacidad y desalojando claves mientras otros estaban medio vacíos.

Entorno

Capa de Memcached en AWS a la que acceden servicios escritos en dos lenguajes con bibliotecas cliente distintas.

Enfoque

La evaluación desglosa la tasa de aciertos por patrón de claves en lugar de tratarla como un único número, y mide la distribución real de claves y de memoria por nodo. Así se separa el tráfico que realmente no se puede cachear de la carga de trabajo que sí se beneficiaría de más memoria, y quedan a la vista los problemas de distribución que agregar nodos no resolvería.

Solución

  1. Tasa de aciertos desglosada por prefijo de clave y patrón de acceso, separando las claves de lectura única de las que realmente se reutilizan
  2. Medición de la cantidad de claves y de la distribución de memoria por nodo para poner en evidencia el desbalance del anillo
  3. Comparación de la configuración de hashing de las bibliotecas cliente en ambos lenguajes, con la identificación de la discrepancia que causaba el desbalance
  4. Estimación del tamaño del working set por clase de clave, para que los requisitos de capacidad se basen en mediciones y no en una duplicación a ojo
  5. Identificación de los patrones de acceso que no se pueden cachear, devueltos a los equipos de aplicación como candidatos a salir de la ruta de caché
  6. Recomendación de dimensionamiento con la tasa de aciertos esperada para cada opción, incluida la de no agregar ninguna capacidad

Resultado final

Corregir la discrepancia de hashing de los clientes rebalanceó el anillo y elevó de forma considerable la tasa de aciertos sin hardware nuevo. Se canceló la duplicación de capacidad prevista y, en su lugar, se programó un aumento moderado dirigido a una sola clase de claves.

Tecnologías

MemcachedLinuxMySQLTerraform

¿Listo para un health check de Memcached?

Los ingenieros sénior de Memcached de AceMQ ya han realizado este mismo tipo de proyecto. Ya sea que necesite orientación de arquitectura, remediación práctica o una alianza continua de servicios administrados, estamos listos para ayudarlo.