Überblick
Ein Logistikdienstleister überschritt wiederholt sein Splunk-Ingest-Volumen und stand vor einer teuren Verlängerung. AceMQ analysierte, woher das Volumen kam, und entwarf eine Filter- und Tiering-Strategie, die jede erforderliche Detection- und Audit-Fähigkeit erhielt.
Herausforderung
Ein großer Teil des täglichen Ingests stammte aus einer Handvoll sehr gesprächiger Quellen: ausführliche Web-Access-Logs einschließlich Requests für statische Assets, Debug-Ausgaben, die bei einem alten Vorfall aktiviert und nie wieder abgeschaltet worden waren, und doppelte Erfassung, weil zwei Agents dieselben Dateien weiterleiteten. Keine dieser Daten wurde von einer Detection Rule oder einer Compliance-Anforderung referenziert – doch ohne Analyse konnte das niemand belegen, und kein Team wollte dasjenige sein, das ausgerechnet das Log löscht, auf das es später ankommt.
Umgebung
Hybrides Splunk-Deployment mit Ingest aus Cloud- und On-Premises-Quellen, das Anforderungen an Security Detection und Audit-Aufbewahrung unterliegt.
Vorgehen
Wir beginnen auf der Anforderungsseite: Jede Detection Rule, jedes Dashboard und jede Compliance-Pflicht wird den Daten zugeordnet, von denen sie abhängt. Alles, was in dieser Zuordnung nicht vorkommt, ist ein Kandidat für die Filterung. Umfangreiche Daten mit gelegentlichem Nutzen werden in günstigen Object Storage geleitet, wo sie abrufbar bleiben, statt verworfen zu werden. Gefiltert wird auf der Forwarding-Ebene, damit das Volumen sinkt, bevor es gezählt wird.
Lösung
- Ingest-Volumen nach Quelle, Sourcetype und Host aufgeschlüsselt, um die Verursacher präzise zu reihen
- Jede Detection Rule, jede geplante Suche und jede Compliance-Anforderung den Daten zugeordnet, von denen sie abhängt
- Null-Queue-Routing auf der Forwarding-Ebene für Event-Klassen, die nachweislich von nichts referenziert werden
- Gesprächige Quellen an der Quelle reduziert – Debug-Logging abgeschaltet, Requests für statische Assets ausgeschlossen, doppelte Erfassung beseitigt
- Umfangreiche, nur gelegentlich nützliche Daten in Object Storage geleitet, mit einem Abrufpfad für Untersuchungen
- Volumen-Monitoring und Budgets je Quelle eingeführt, damit eine künftige Logging-Änderung nicht unbemerkt die Reserven aufzehrt
Resultat
Der tägliche Ingest sank um rund ein Drittel, ohne dass einer Detection Rule oder Compliance-Pflicht die Quelldaten verloren gingen – das veränderte die Verhandlungen zur Verlängerung spürbar. Die Budgets je Quelle haben seitdem eine Änderung am Debug-Logging abgefangen, bevor sie sich auf die Lizenz auswirkte.