Redis

Warum wächst mein Redis-Speicher weiter, obwohl die Zahl der Keys gleich bleibt?

Scott Sternloff

Von Scott Sternloff, Senior Enterprise Architect

LinkedIn · Aktualisiert am

MAXINDEX GROWINGMemory Leak, Flat Key Count
Auf dieser Seite

Sie prüfen INFO memory, und der belegte Speicher steigt immer weiter. Sie prüfen die Zahl der Keys, und sie ist konstant oder sinkt sogar. Das ist eines der verwirrendsten Fehlerbilder im Redis-Betrieb – die Rechnung geht nicht auf, und Teams jagen oft tagelang dem falschen Verdächtigen hinterher, bevor sie den richtigen finden.

Dieser Beitrag zeigt Diagnose und Lösung anhand einer realen, mehrwöchigen Untersuchung in Produktion – einschließlich der konkreten Befehle und Schwellenwerte, auf die es ankam.

Wenn die Zahl der Keys konstant ist – warum wächst der Speicher trotzdem?

In der überwältigenden Mehrheit der Fälle lautet die Antwort: Es sind nicht Ihre Keys, es ist Ihr Index.

Wenn Sie RediSearch (das Modul für Volltext- und Sekundärindizes) oder ein ähnliches Indexierungsmodul einsetzen, belegt der Index selbst Speicher unabhängig von Ihrem primären Keyspace. Ein Index, der unbegrenzt wächst – oft, weil er weit häufiger als beabsichtigt neu aufgebaut oder aktualisiert wird –, kann bis an Ihr maxmemory-Limit heranwachsen, während DBSIZE nichts Auffälliges zeigt.

Genau das wurde in einem Redis-Assessment über mehrere Sitzungen diagnostiziert: Das Team bestätigte, dass ein Speicherleck mit dem Volltext-Indexierungs-Plugin von Redis zusammenhing. Die Speichernutzung stieg auf rund 60 % und führte beim Reindexing zu Abstürzen. Justin Clark und Eugene Abovsky identifizierten die Ursache als Softwarefehler im Indexierungsmodul – kein Hardware- oder Konfigurationsproblem und überhaupt nichts, was im primären Keyspace geschah.

Erster Diagnoseschritt: Führen Sie FT.INFO <index_name> für jeden Ihrer Suchindizes aus und sehen Sie sich den gemeldeten Speicherbedarf des Index an. Vergleichen Sie ihn mit Ihrem gesamten used_memory aus INFO memory. Macht der Index einen unverhältnismäßig großen und wachsenden Anteil aus, haben Sie die Quelle Ihres Lecks gefunden – nicht in den Daten, sondern in der Indexstruktur, die darüber liegt.

Was genau führt dazu, dass ein Index auf diese Weise Speicher verliert?

Die häufigste Ursache ist übermäßiges Reindexing durch hochfrequente Updates mit geringem Informationswert.

In einer Untersuchung in Produktion führte das Team das Leck auf Heartbeat-Updates von Geräten zurück: Jeder Heartbeat löste ein vollständiges Reindexing des zugehörigen Dokuments aus, selbst wenn die eigentliche Änderung trivial war. Jeder dieser Reindex-Vorgänge hinterließ Speicher, der nicht freigegeben wurde – und weil die Heartbeats ständig eintrafen, summierte sich das Leck über Stunden, bis die Instanz abstürzte.

Ein zweiter Faktor, der in derselben Untersuchung identifiziert wurde: die Indexierung von Feldern, die gar nicht indexiert werden müssen, etwa UUID-Felder. Ein Feld mit hoher Kardinalität wie eine UUID zu indexieren, bläht den Speicherbedarf des Index erheblich auf und bringt bei Abfragen kaum Nutzen, da UUIDs selten Ziel von Bereichsabfragen oder unscharfer Suche sind.

Diagnosefragen für Ihr eigenes Deployment:

  • Welche Felder werden tatsächlich indexiert, und nutzen Abfragen wirklich alle davon?
  • Was löst ein Update des Dokuments aus – eine echte Zustandsänderung oder ein hochfrequentes Signal wie ein Heartbeat oder ein Zeitstempel?
  • Läuft ein geplanter Reindex-Job, und wird er tatsächlich abgeschlossen und gibt Speicher frei, oder schlägt er unbemerkt fehl?

Wie stabilisiere ich eine Redis-Instanz mit Speicherleck am schnellsten?

Wenn Sie sich mitten in einem Incident befinden – der Speicher steigt in Richtung Limit, ein Absturz steht bevor –, gibt es eine bewährte Notlösung: den betroffenen Index löschen und neu aufbauen.

Das behebt nicht die Ursache, gibt den verlorenen Speicher als Sofortmaßnahme aber zuverlässig frei. In einem Incident senkte das Löschen und Neuaufbauen des Index die Speichernutzung von 50 % auf 36 % des konfigurierten Maximums – genug Spielraum, um das System zu stabilisieren, während die eigentliche Lösung entwickelt wurde.

Das Vorgehen für die Notlösung:

  1. Mit FT.INFO bestätigen, welcher Index unverhältnismäßig wächst
  2. Löschen und Neuaufbau nach Möglichkeit in ein Zeitfenster mit wenig Traffic legen – der Neuaufbau eines großen Index dauert und beeinträchtigt kurzzeitig die Verfügbarkeit von Abfragen
  3. FT.DROPINDEX <index_name> ausführen (ohne DD, wenn die zugrunde liegenden Hash-/JSON-Daten erhalten bleiben sollen, denn entfernt werden soll nur die Indexstruktur, nicht Ihre Keys)
  4. Den Index mit FT.CREATE neu anlegen
  5. FT.INFO und INFO memory anschließend überwachen, um zu bestätigen, dass der freigegebene Speicher frei bleibt

In Produktionsumgebungen, in denen das immer wieder auftritt, lässt sich das als geplanter Job automatisieren – betrachten Sie es aber als Abmilderung, nicht als Lösung. Einen Workaround zu automatisieren, ohne den Auslöser des Reindexing anzugehen, schiebt den Absturz nur weiter hinaus.

Welche Konfigurationsänderungen verhindern den Absturz wirklich?

Über die Behebung des Reindex-Auslösers hinaus begrenzen zwei Änderungen auf Konfigurationsebene den möglichen Schaden, während die eigentliche Lösung entwickelt wird:

Ein explizites maxmemory mit passender Eviction Policy setzen. In einem Incident führte das Team eine neue maxmemory-Einstellung zusammen mit der Eviction Policy allkeys-lru ein, gezielt um die Systemstabilität für kritische Kunden zu schützen. Es nahm damit eine etwas schlechtere Cache-Trefferquote in Kauf, im Gegenzug für die Garantie, dass die Instanz nicht hart wegen Speichererschöpfung abstürzt. Das ist ein bewusster Kompromiss zugunsten der Stabilität während einer laufenden Untersuchung eines Lecks, nicht zwingend ein Dauerzustand.

Die Garbage Collection optimieren, wo möglich. In Redis-Deployments mit vielen Modulen wurde gezielt ein aggressives GC-Tuning getestet, um das Verhalten bei der Speicherfreigabe zu verbessern – das lohnt sich zu prüfen, wenn Ihr Modulanbieter GC-bezogene Einstellungen anbietet.

Hochfrequente Daten mit geringem Informationswert von indexierten Keys trennen. Die nachhaltigste Lösung, die in der zugrunde liegenden Untersuchung gefunden wurde, war architektonisch: flüchtige, Heartbeat-artige Daten vollständig von den indexierten Keys trennen, damit routinemäßige Status-Pings gar kein Reindexing mehr auslösen. Wenn Ihre Anwendung häufig eine kleine Teilmenge von Feldern in einem ansonsten stabilen Dokument aktualisiert, sollten Sie die flüchtigen Felder in einem separaten, nicht indexierten Key speichern.

Sollte ich meine Redis-Version aktualisieren, um das zu beheben?

Möglicherweise – aber prüfen Sie zuerst den konkreten Bug. In der Untersuchung, auf die sich dieser Beitrag durchgehend bezieht, gehörte zur Diagnose auch die Frage, ob das Speicherleck ein bekanntes, in späteren Redis-Versionen behobenes Problem war, da die betroffene Umgebung ein älteres Release einsetzte. Mit einer unabhängigen Analyse des Quellcodes des Suchmoduls wurde ermittelt, ob bekannte Patch-Versionen das konkret beobachtete Leckmuster beheben.

Bevor Sie sich auf ein Upgrade als Lösung festlegen, klären Sie:

  • ob es für Ihre konkrete Modulversion in einem späteren Release einen dokumentierten Fix für das Speicherleck gibt
  • ob das Leck tatsächlich im Modul selbst liegt oder in Ihrem Indexierungsmuster (ein Upgrade behebt kein Problem mit indexierten UUIDs)
  • ob Sie einen getesteten Rollback-Plan haben, denn Upgrades der Redis-Version in Produktion erfordern dieselbe Sorgfalt wie jedes Upgrade eines zustandsbehafteten Dienstes

Reaktionszeitziele ab 15 Minuten, je nach Plan. Namentlich zugeordnete Senior Engineers.

Kontakt

Ist das ein Grund, eine Migration zu Valkey in Betracht zu ziehen?

Das lohnt sich als Teil eines umfassenderen Sanierungsplans zu prüfen, besonders wenn Sie ohnehin Lizenzfragen abwägen. Einige Teams, die genau diese Art modulbedingter Instabilität erlebten, haben die Untersuchung genutzt, um parallel die Kompatibilität mit Valkey zu testen – also zu prüfen, ob sich ihr bestehender Client-Code und ihre Indexierungsmuster auf Valkey identisch verhalten, bevor sie sich in die eine oder andere Richtung festlegen. Diese Entscheidung behandeln wir separat ausführlicher.

Wie sollte das laufende Monitoring nach der Stabilisierung aussehen?

Sobald das akute Absturzrisiko beseitigt ist, richten Sie dauerhaftes Monitoring ein, damit sich das Problem nicht unbemerkt wiederholt:

  • Den Index-Speicher als eigene Metrik erfassen, nicht nur das gesamte used_memory. Ein Dashboard-Panel, das den Speicher laut FT.INFO neben dem Gesamtspeicher zeigt, macht das nächste Leck früh sichtbar statt erst bei 60 % Auslastung.
  • Auf Häufigkeit und Dauer der Reindex-Jobs alarmieren. Wenn sich der Rhythmus Ihres Reindexing unerwartet ändert – häufiger wird oder unbemerkt nicht mehr abgeschlossen wird –, ist das Ihre Frühwarnung.
  • Prüfen, ob Ihre maxmemory-Eviction-Policy zu Ihrer tatsächlichen Toleranz für Datenverlust passt. allkeys-lru schützt die Stabilität, verdrängt unter Druck aber Daten. Ist das für Ihren Anwendungsfall nicht akzeptabel, muss die eigentliche Lösung beim Reindex-Auslöser ansetzen, nicht bei der Eviction Policy.

Hilfe bei Redis-Speicherlecks und Indexwachstum

Ihr Redis-Speicher steigt unabhängig von der Zahl der Keys? Dieses Muster verfolgen wir bis zu seiner tatsächlichen Quelle – Indexwachstum, Reindex-Auslöser und Modulfehler, die generisches Infrastruktur-Tuning nicht aufdeckt. AceMQ bietet Enterprise-Support für Redis für produktive Umgebungen. Sprechen Sie mit einem AceMQ-Engineer.

Dies ist Schritt drei von sieben im Redis-Leitfaden zur Zuverlässigkeit, der die Probleme in der Reihenfolge behandelt, in der sie in einer Produktionsumgebung auftreten.

Häufig gestellte Fragen

Warum wächst der Redis-Speicher, obwohl die Zahl der Keys konstant bleibt?

In der überwältigenden Mehrheit der Fälle kommt das Wachstum von einem Index, nicht aus Ihrem Keyspace. RediSearch und ähnliche Indexierungsmodule belegen Speicher unabhängig von Ihrem primären Keyspace, und ein Index, der zu häufig neu aufgebaut oder aktualisiert wird, kann bis an maxmemory heranwachsen, während DBSIZE nichts Auffälliges zeigt. Führen Sie FT.INFO <index_name> für jeden Suchindex aus und vergleichen Sie dessen Speicherbedarf mit dem gesamten used_memory aus INFO memory, um das zu bestätigen.

Was führt dazu, dass ein Redis-Index auf diese Weise Speicher verliert?

Die häufigste Ursache ist übermäßiges Reindexing durch hochfrequente Updates mit geringem Informationswert – etwa ein Heartbeat-Feld, das bei jedem Ping ein vollständiges Reindexing des Dokuments auslöst. Ein zweiter Faktor ist die Indexierung von Feldern, die gar nicht indexiert werden müssen, etwa UUID-Felder mit hoher Kardinalität, die den Speicherbedarf des Index für kaum einen Nutzen bei Abfragen aufblähen.

Wie stabilisiere ich eine Redis-Instanz mit Speicherleck am schnellsten?

Löschen Sie den betroffenen Index und bauen Sie ihn neu auf. Das behebt nicht die Ursache, gibt den verlorenen Speicher als Sofortmaßnahme aber zuverlässig frei – in einem Incident sank die Nutzung so von 50 % auf 36 % des konfigurierten Maximums. Planen Sie das für ein Zeitfenster mit wenig Traffic ein, bestätigen Sie den wachsenden Index mit FT.INFO, führen Sie dann FT.DROPINDEX aus (ohne DD, damit Ihre Daten erhalten bleiben) und legen Sie den Index mit FT.CREATE neu an.

Welche Konfigurationsänderungen verhindern einen Absturz durch ein Redis-Speicherleck wirklich?

Setzen Sie ein explizites maxmemory mit der Eviction Policy allkeys-lru, damit die Instanz nicht hart wegen Speichererschöpfung abstürzen kann, auch wenn die Cache-Trefferquote etwas leidet. Optimieren Sie die Garbage Collection, sofern Ihr Modulanbieter entsprechende Einstellungen anbietet. Am nachhaltigsten ist es, hochfrequente Daten mit geringem Informationswert wie Heartbeats von Ihren indexierten Keys zu trennen, damit Routine-Updates gar kein Reindexing mehr auslösen.

Sollte ich meine Redis-Version aktualisieren, um ein Speicherleck zu beheben?

Möglicherweise, aber prüfen Sie zuerst den konkreten Bug. Klären Sie, ob es für Ihre Modulversion in einem späteren Release einen dokumentierten Fix für das Speicherleck gibt, ob das Leck tatsächlich im Modul liegt oder in Ihrem Indexierungsmuster und ob Sie einen getesteten Rollback-Plan haben, bevor Sie sich auf ein Upgrade festlegen.

Ist ein Redis-Speicherleck ein Grund, eine Migration zu Valkey in Betracht zu ziehen?

Das lohnt sich als Teil eines umfassenderen Sanierungsplans zu prüfen, besonders wenn Sie ohnehin Lizenzfragen abwägen. Wenn Sie die Kompatibilität mit Valkey parallel testen – also prüfen, ob sich Ihr Client-Code und Ihre Indexierungsmuster identisch verhalten –, können Sie die Option bewerten, ohne sich vorab festzulegen.

Wie sollte das laufende Monitoring nach der Stabilisierung eines Redis-Speicherlecks aussehen?

Erfassen Sie den Index-Speicher als eigene Metrik neben dem gesamten used_memory, statt sich nur auf aggregierte Werte zu verlassen. Alarmieren Sie auf Häufigkeit und Dauer der Reindex-Jobs, damit eine unerwartete Änderung früh auffällt. Prüfen Sie, ob Ihre maxmemory-Eviction-Policy wirklich zu Ihrer Toleranz für Datenverlust passt: allkeys-lru schützt die Stabilität, verdrängt unter Druck aber Daten.

Kostenlose Beratung

Lassen Sie Experten auf Ihr Redis-Deployment schauen

Ob Sie einen Produktionsvorfall beheben, eine Migration planen oder eine zweite Meinung zu Ihrer Architektur wünschen – unser Team steht bereit. Kein Verkaufsgespräch, nur Antworten.

E-Mail schreiben