Descripción general
Un proveedor de logística operaba ELK en sitios cloud y on-premises sin un responsable dedicado de la plataforma. Los problemas de ingesta solían aparecer días después como datos faltantes en los dashboards. AceMQ brinda soporte continuo para toda la ruta de ingesta.
Desafío
Las fallas estaban repartidas entre capas y nadie era responsable de toda la cadena. Los conflictos de mapping rechazaban documentos sin aviso cuando dos servicios usaban el mismo nombre de campo con tipos diferentes: los datos simplemente nunca llegaban y no existía ninguna alerta para los rechazos. Las index templates divergían entre entornos, así que un pipeline validado en staging se comportaba de otra manera en producción. Los agentes de Beats en los hosts más antiguos ejecutaban versiones que habían quedado fuera del rango de compatibilidad admitido con el clúster.
Entorno
Despliegue híbrido de ELK con agentes de Beats en sitios cloud y on-premises, y varios equipos que aportan configuración de pipelines.
Enfoque
El soporte cubre el pipeline de punta a punta porque es ahí donde ocurren las fallas. Generamos alertas ante rechazos de documentos para que la pérdida silenciosa de datos se vuelva visible, mantenemos las index templates y las definiciones de pipelines bajo control de versiones con paridad entre entornos, y gestionamos la compatibilidad de versiones de Beats como una actividad programada y no como una emergencia.
Solución
- Soporte 24/7 con objetivos de respuesta desde 15 minutos, según el plan, e ingenieros sénior asignados que cubren toda la ruta de ingesta
- Alertas ante rechazos de documentos y conflictos de mapping para que los datos descartados sin aviso salgan a la luz de inmediato
- Index templates y component templates estandarizadas con una convención de nombres de campos que evita los conflictos de tipos
- Definiciones de pipelines y templates bajo control de versiones con paridad obligatoria entre staging y producción
- Inventario de versiones de los agentes de Beats y un calendario de actualizaciones programado que mantiene la flota dentro del rango admitido
- Revisión de cambios en las modificaciones de pipelines antes de que lleguen a producción, con un rollback definido para cada cambio
Resultado final
Los rechazos silenciosos de documentos ahora se detectan en minutos en lugar de aparecer días después como datos faltantes en los dashboards. La divergencia entre staging y producción prácticamente desapareció desde que las templates pasaron a control de versiones.