Descripción general
La ingesta de telemetría de un proveedor SaaS crecía mucho más rápido que su negocio, sin un responsable claro de ese crecimiento. AceMQ lo ayudó a atribuir el volumen, recortar lo que nadie consumía y poner controles en la capa de recolección para que la reducción se sostenga.
Desafío
La ingesta estaba dominada por unas pocas fuentes: logs verbosos de frameworks reenviados en nivel debug, eventos personalizados emitidos por cada solicitud que solo se usaban agregados y métricas de infraestructura recolectadas con un intervalo mucho más fino que el que mostraba cualquier dashboard. Nadie podía ver qué parte de la factura correspondía a la telemetría de cada equipo, así que las conversaciones sobre costos no llegaban a ningún lado y el crecimiento continuaba cada trimestre.
Entorno
New Relic en un entorno de AWS con múltiples cuentas, con cargas de trabajo en Kubernetes y varios equipos de producto autónomos.
Enfoque
AceMQ no opera la plataforma del proveedor: ayudamos a los clientes a decidir y controlar qué sale de su infraestructura. El proyecto atribuye la ingesta por equipo y por fuente, verifica qué se consulta realmente e implementa reglas de descarte (drop rules) y muestreo en la capa de recolección, donde se aplican sin importar lo que emita cada aplicación.
Solución
- Volumen de ingesta atribuido por equipo, servicio y tipo de telemetría, para que el costo tenga un dueño y no sea solo un total
- Cruce del uso de consultas y dashboards para identificar la telemetría que se ingiere pero nunca se consume
- Reglas de descarte aplicadas en la capa de recolección para las clases de logs y eventos que comprobadamente no se consumen
- Corrección de los niveles de reenvío de logs en el origen, eliminando la salida de debug que había quedado habilitada desde incidentes pasados
- Intervalos de recolección de métricas de infraestructura alineados con la resolución que realmente usan los dashboards y las alertas
- Presupuestos de ingesta por equipo con monitoreo, para que un cambio en el logging aparezca como una alerta y no como una factura
Resultado final
El volumen ingerido bajó aproximadamente un cuarenta por ciento sin que ningún dashboard ni alerta perdiera su fuente de datos. Como la ingesta ahora se atribuye por equipo y tiene presupuesto, el crecimiento es una decisión visible y no una sorpresa trimestral.