Descripción general
Un proveedor de analítica sanitaria necesitaba un historial largo para la planificación de capacidad y una retención plurianual de ciertas métricas operativas, pero lo conseguía conectando volúmenes de bloque enormes a Prometheus. AceMQ diseñó en su lugar una arquitectura respaldada por almacenamiento de objetos y con downsampling.
Reto
La retención local superaba con creces el año, lo que suponía volúmenes aprovisionados gigantescos por instancia, compactaciones lentas y traslados de instancias muy penosos. Las consultas sobre rangos largos agotaban el timeout porque recorrían muestras a resolución completa en toda la ventana. Tampoco había una estrategia real de durabilidad: la retención residía en volúmenes conectados a instancias individuales, así que perder una instancia suponía perder un historial que la empresa se había comprometido a conservar.
Entorno
Prometheus sobre Kubernetes en varias cuentas de AWS, con almacenamiento de objetos disponible y obligaciones de retención reguladas para un subconjunto de métricas.
Enfoque
Separamos los dos trabajos que se le pedían a Prometheus: datos recientes de alta resolución para las alertas e historial de largo alcance para planificación y auditoría. Prometheus conserva una ventana local corta; los bloques se envían al almacenamiento de objetos, donde un compactor con downsampling genera resoluciones más gruesas para las consultas de rango largo. La obligación de retención se aplica entonces mediante políticas de ciclo de vida de los objetos y no mediante la configuración de las instancias.
Solución
- Retención local de Prometheus reducida a una ventana corta, dimensionada solo para las alertas y la depuración inmediata
- Envío de bloques al almacenamiento de objetos con un compactor que genera resoluciones con downsampling de cinco minutos y de una hora
- Capa de consulta configurada para elegir automáticamente la resolución adecuada según el rango solicitado
- Obligaciones de retención aplicadas mediante reglas de ciclo de vida de objetos por prefijo de bucket, auditables con independencia de Prometheus
- Deduplicación configurada entre los pares de Prometheus en alta disponibilidad para que las consultas de rango largo devuelvan una única serie coherente
- Modelo de costes que compara el almacenamiento en bloque aprovisionado con el almacenamiento de objetos más downsampling, con los volúmenes de datos reales del cliente
Resultado final
El almacenamiento en bloque aprovisionado por instancia se redujo aproximadamente en un orden de magnitud, y las consultas de capacidad sobre rangos de un año que antes agotaban el timeout ahora responden en segundos sobre datos con downsampling. La retención es ahora exigible y auditable sin depender de que sobreviva ninguna instancia concreta.