Volver a todos los casos de uso

ConsultoríaSanidad / Beneficios sociales

Años de historial de métricas sin años de facturas de almacenamiento en bloque

Proveedor de analítica sanitaria

Proyecto de consultoría para diseñar una retención plurianual de métricas de Prometheus con downsampling y almacenamiento de objetos, en sustitución de discos locales sobredimensionados.

Descripción general

Un proveedor de analítica sanitaria necesitaba un historial largo para la planificación de capacidad y una retención plurianual de ciertas métricas operativas, pero lo conseguía conectando volúmenes de bloque enormes a Prometheus. AceMQ diseñó en su lugar una arquitectura respaldada por almacenamiento de objetos y con downsampling.

Reto

La retención local superaba con creces el año, lo que suponía volúmenes aprovisionados gigantescos por instancia, compactaciones lentas y traslados de instancias muy penosos. Las consultas sobre rangos largos agotaban el timeout porque recorrían muestras a resolución completa en toda la ventana. Tampoco había una estrategia real de durabilidad: la retención residía en volúmenes conectados a instancias individuales, así que perder una instancia suponía perder un historial que la empresa se había comprometido a conservar.

Entorno

Prometheus sobre Kubernetes en varias cuentas de AWS, con almacenamiento de objetos disponible y obligaciones de retención reguladas para un subconjunto de métricas.

Enfoque

Separamos los dos trabajos que se le pedían a Prometheus: datos recientes de alta resolución para las alertas e historial de largo alcance para planificación y auditoría. Prometheus conserva una ventana local corta; los bloques se envían al almacenamiento de objetos, donde un compactor con downsampling genera resoluciones más gruesas para las consultas de rango largo. La obligación de retención se aplica entonces mediante políticas de ciclo de vida de los objetos y no mediante la configuración de las instancias.

Solución

  1. Retención local de Prometheus reducida a una ventana corta, dimensionada solo para las alertas y la depuración inmediata
  2. Envío de bloques al almacenamiento de objetos con un compactor que genera resoluciones con downsampling de cinco minutos y de una hora
  3. Capa de consulta configurada para elegir automáticamente la resolución adecuada según el rango solicitado
  4. Obligaciones de retención aplicadas mediante reglas de ciclo de vida de objetos por prefijo de bucket, auditables con independencia de Prometheus
  5. Deduplicación configurada entre los pares de Prometheus en alta disponibilidad para que las consultas de rango largo devuelvan una única serie coherente
  6. Modelo de costes que compara el almacenamiento en bloque aprovisionado con el almacenamiento de objetos más downsampling, con los volúmenes de datos reales del cliente

Resultado final

El almacenamiento en bloque aprovisionado por instancia se redujo aproximadamente en un orden de magnitud, y las consultas de capacidad sobre rangos de un año que antes agotaban el timeout ahora responden en segundos sobre datos con downsampling. La retención es ahora exigible y auditable sin depender de que sobreviva ninguna instancia concreta.

Tecnologías

PrometheusThanosAmazon S3GrafanaKubernetes

¿Necesita asesoramiento de arquitectura para Prometheus?

Los ingenieros sénior de Prometheus de AceMQ ya han llevado a cabo antes este mismo tipo de proyecto. Tanto si necesita asesoramiento de arquitectura como remediación práctica o una colaboración continua de servicios gestionados, estamos preparados para ayudarle.