Présentation
L'ingestion de télémétrie d'un éditeur SaaS augmentait bien plus vite que son activité, sans responsable clair de cette croissance. AceMQ l'a aidé à attribuer les volumes, à supprimer ce que rien ne consommait et à mettre en place des contrôles au niveau de la couche de collecte pour que la réduction tienne dans la durée.
Défi
L'ingestion était dominée par un petit nombre de sources : des logs de framework verbeux transmis au niveau debug, des événements personnalisés émis à chaque requête qui n'étaient jamais qu'agrégés, et des métriques d'infrastructure collectées à un intervalle bien plus fin que celui affiché par n'importe quel dashboard. Personne ne pouvait voir quelle part de la facture était due à la télémétrie de quelle équipe, si bien que les discussions sur les coûts n'aboutissaient pas et que la croissance se poursuivait chaque trimestre.
Environnement
New Relic sur un parc AWS multi-comptes avec des charges Kubernetes et plusieurs équipes produit autonomes.
Approche
AceMQ n'exploite pas la plateforme de l'éditeur : nous aidons les clients à décider et à contrôler ce qui sort de leur infrastructure. La mission attribue l'ingestion par équipe et par source, vérifie ce qui est réellement interrogé, et met en place des règles de suppression et d'échantillonnage au niveau de la couche de collecte, là où elles s'appliquent quoi qu'émettent les applications individuelles.
Solution
- Volume d'ingestion attribué par équipe, par service et par type de télémétrie, pour que le coût ait un responsable plutôt qu'un simple total
- Croisement avec l'usage des requêtes et des dashboards pour identifier la télémétrie ingérée mais jamais consommée
- Règles de suppression appliquées au niveau de la couche de collecte pour les classes de logs et d'événements dont la non-utilisation est démontrée
- Niveaux de transmission des logs corrigés à la source, en supprimant les sorties debug laissées actives après d'anciens incidents
- Intervalles de collecte des métriques d'infrastructure alignés sur la résolution réellement utilisée par les dashboards et les alertes
- Budgets d'ingestion par équipe, avec une supervision qui fait apparaître un changement de journalisation sous forme d'alerte plutôt que de facture
Résultat obtenu
Le volume ingéré a baissé d'environ quarante pour cent sans qu'aucun dashboard ni aucune alerte ne perde sa source de données. Comme l'ingestion est désormais attribuée et budgétée par équipe, la croissance est une décision visible plutôt qu'une surprise trimestrielle.