Descripción general
Un proveedor logístico operaba ELK en sedes en la nube y on-premise sin un responsable de plataforma dedicado. Los problemas de ingesta solían aflorar días después, en forma de datos que faltaban en los dashboards. AceMQ ofrece soporte continuo de toda la ruta de ingesta.
Reto
Los fallos se repartían entre varias capas y nadie era responsable de la cadena completa. Los conflictos de mapping rechazaban documentos sin avisar cuando dos servicios usaban el mismo nombre de campo con tipos distintos: los datos sencillamente no llegaban y no existía ninguna alerta para los rechazos. Los index templates divergían entre entornos, así que un pipeline validado en preproducción se comportaba de otra forma en producción. Los agentes Beats de los hosts más antiguos ejecutaban versiones que habían quedado fuera del rango de compatibilidad soportado con el clúster.
Entorno
Despliegue híbrido de ELK con agentes Beats en sedes en la nube y on-premise, y varios equipos que aportaban configuración de pipelines.
Enfoque
El soporte cubre el pipeline de extremo a extremo porque es ahí donde se producen los fallos. Alertamos de los rechazos de documentos para que la pérdida silenciosa de datos se haga visible, mantenemos los index templates y las definiciones de pipelines bajo control de versiones con paridad entre entornos, y gestionamos la compatibilidad de versiones de Beats como una actividad planificada y no como una emergencia.
Solución
- Soporte 24/7 con objetivos de respuesta desde 15 minutos, según el plan, e ingenieros sénior asignados que cubren toda la ruta de ingesta
- Alertas de rechazo de documentos y de conflictos de mapping para que los datos descartados sin aviso afloren de inmediato
- Index templates y component templates estandarizados con una convención de nombres de campos que evita los conflictos de tipos
- Definiciones de pipelines y templates bajo control de versiones, con paridad obligatoria entre preproducción y producción
- Inventario de versiones de los agentes Beats y un calendario de actualizaciones planificado que mantiene la flota dentro del rango soportado
- Revisión de los cambios en los pipelines antes de que lleguen a producción, con un rollback definido para cada cambio
Resultado final
Los rechazos silenciosos de documentos se detectan ahora en minutos, en lugar de aflorar días después como datos ausentes en los dashboards. La divergencia entre preproducción y producción prácticamente ha desaparecido desde que los templates pasaron al control de versiones.