Zurück zu allen Kundenbeispielen

FehlerbehebungSoftware / Digitale Plattformen

Die kleinen Dateien kompaktieren, die Ihre Delta-Tabellen ersticken – und sie dauerhaft kompakt halten

Digitale Retail-Plattform

Sanierung von Delta-Tabellen, in denen Streaming-Writes und Überpartitionierung Millionen winziger Dateien erzeugt haben, die Lesezugriffe und VACUUM-Läufe ausbremsen.

Überblick

Eine Delta-Tabelle, die von einem Streaming-Job mit kurzem Trigger-Intervall und einer Partitionsspalte mit hoher Kardinalität befüllt wird, sammelt schneller kleine Dateien an, als es jemand bemerkt. Abfragen, die früher in Sekunden zurückkamen, verbringen plötzlich den Großteil ihrer Zeit mit File Listing und dem Auflösen von Metadaten. AceMQ saniert die Tabellen und korrigiert den Schreibpfad, der das Problem verursacht hat.

Herausforderung

Die Symptome zeigen sich meist als stetig statt plötzlich wachsende Leselatenz: Eine Dashboard-Abfrage, die acht Sekunden brauchte, dauert jetzt vier Minuten, OPTIMIZE-Jobs laufen über ihr Zeitfenster hinaus und werden abgebrochen, und VACUUM kann nicht abschließen, weil schon die Dateiliste enorm ist. Wer naiv OPTIMIZE auf die gesamte Tabelle loslässt, löst einen Rewrite aus, der mehr Compute kostet als budgetiert und mit gleichzeitig schreibenden Prozessen kollidiert.

Umgebung

Databricks mit Delta-Tabellen, die per Structured Streaming, Auto Loader oder häufigen Micro-Batch-Jobs in Cloud Object Storage geschrieben werden.

Vorgehen

AceMQ erfasst Dateizahl und Größenverteilung je Partition, um herauszufinden, wo sich der Schaden konzentriert, und kompaktiert dann inkrementell nach Partitionsbereichen, sodass jeder OPTIMIZE-Lauf in ein Wartungsfenster passt und nicht mit aktiven Schreibprozessen kollidiert. Ist die Tabelle wieder gesund, wird der Schreibpfad korrigiert – Trigger-Intervalle, Wahl der Partitionsspalte und Auto-Compaction-Einstellungen –, damit das Problem nicht zurückkehrt.

Lösung

  1. Profiling von Dateizahl und Dateigröße je Partition, um zu lokalisieren, wo sich kleine Dateien tatsächlich ansammeln
  2. Inkrementelles OPTIMIZE mit ZORDER auf den realen Abfrageprädikaten, nach Partitionsbereichen geplant, damit es ins Wartungsfenster passt
  3. Prüfung der Partitionierungsstrategie – meist wird eine Spalte mit hoher Kardinalität entfernt, die besser ein ZORDER-Key wäre
  4. Konfiguration von Auto-Optimize und Auto-Compaction auf dem Streaming-Schreibpfad mit abgestimmter Zieldateigröße
  5. Prüfung der VACUUM-Aufbewahrung und gestaffelte Ausführung, sobald die Dateizahl wieder im Rahmen ist
  6. Prüfung der Einstellungen für Deletion Vectors und Checkpoints bei Tabellen mit vielen MERGE-Operationen

Resultat

Die Leselatenz der betroffenen Tabellen kehrt typischerweise auf ihr ursprüngliches Niveau zurück, und Wartungsjobs werden wieder innerhalb ihres Zeitfensters fertig. Weil der Schreibpfad im selben Projekt korrigiert wird, bleibt die Dateizahl stabil, statt im folgenden Quartal wieder anzusteigen.

Technologien

DatabricksDelta LakeApache Spark

Haben Sie ein Produktionsproblem mit Databricks?

Die Senior Engineers von AceMQ für Databricks haben genau diese Art von Projekt bereits umgesetzt. Ob Sie Architekturberatung, praktische Fehlerbehebung oder eine dauerhafte Managed-Services-Partnerschaft benötigen – wir sind bereit, Ihnen zu helfen.