BlogKafka

Kafka Rebalance: was ihn auslöst und wie Sie die Stürme stoppen

Scott Sternloff

Von Scott Sternloff, Senior Enterprise Architect

LinkedIn · Aktualisiert am · 15 Min. Lesezeit

Kafka Rebalance: was ihn auslöst und wie Sie die Stürme stoppen
Auf dieser Seite

Ein Kafka Rebalance ist der Vorgang, bei dem Partitionen auf die Consumer einer Gruppe neu verteilt werden. Er wird immer dann ausgelöst, wenn sich die Mitgliedschaft ändert – ein Consumer tritt bei, verlässt die Gruppe oder wird für tot erklärt – oder wenn sich die Anzahl der Partitionen eines abonnierten Topics ändert. Eine gesunde Gruppe rebalanciert gelegentlich und kurz. Eine Gruppe, die alle paar Minuten rebalanciert, hat ein Konfigurationsproblem, und die daraus entstehenden Pausen werden meist für ein Broker- oder Durchsatzproblem gehalten.

Kafka Rebalancing ist für sich genommen kein Fehler. So verteilt Apache Kafka Partitionen an Consumer und hält die Arbeit gleichmäßig verteilt, während ein Deployment skaliert. Zu verstehen, wie Kafka Rebalancing funktioniert, ist wichtig, weil Probleme genau dann entstehen, wenn es weit häufiger auslöst, als der Workload rechtfertigt.

Der Mechanismus lohnt einen genauen Blick, denn fast jede Lösung ist eine Änderung der Consumer-Konfiguration, nicht ein Eingriff am Cluster.

Was löst einen Kafka Rebalance aus?

Vier Dinge – und nur die ersten beiden sind beabsichtigt.

Ein neuer Consumer tritt der Gruppe bei. Hochskalieren oder ein Pod, der nach einem Deployment startet. Erwartet – tritt ein neuer Consumer bei, verteilt der Coordinator die frei werdenden Partitionen auf die bereits laufenden Consumer.

Ein Consumer verlässt die Gruppe ordnungsgemäß. Ein Graceful Shutdown, der einen Leave-Request sendet. Ebenfalls erwartet. Immer wenn ein Consumer beitritt oder geht, folgt eine Neuverteilung.

Ein Consumer wird für tot erklärt. Hier liegt das Problem. Der Group Coordinator startet einen Rebalance in dem Moment, in dem er entscheidet, dass ein Consumer weg ist – und das passiert, wenn eine von zwei Uhren abläuft:

  • session.timeout.ms (Standard 45 Sekunden). Der Consumer sendet auf einem Hintergrund-Thread alle heartbeat.interval.ms (Standard 3 Sekunden) Heartbeats. Bleiben genug Heartbeats aus, wirft der Coordinator Sie aus der Gruppe. Das erfasst echte Abstürze, Netzwerkpartitionen und lange GC-Pausen.
  • max.poll.interval.ms (Standard 5 Minuten). Der Abstand zwischen zwei aufeinanderfolgenden poll()-Aufrufen auf dem Haupt-Thread. Die Heartbeats laufen auf dem Hintergrund-Thread weiter, der Consumer wirkt also lebendig – braucht die Anwendung aber zu lange für einen Batch, wirft der Coordinator ihn trotzdem hinaus.

Diese zweite Uhr verursacht die meisten unerklärlichen Rebalances in Produktion. Der Consumer ist nicht abgestürzt. Er verarbeitet nur langsam, und Kafka kann einen langsamen Consumer nicht von einem hängenden unterscheiden.

Die Anzahl der Partitionen ändert sich. Werden einem Kafka-Topic neue Partitionen hinzugefügt, folgt eine Neuzuweisung. Änderungen am Abonnement bewirken dasselbe.

Die letzten beiden sind Rebalance-Ereignisse, auf die Sie lieber verzichten würden. Ein Kafka Rebalance kostet dasselbe, egal was ihn auslöst, und unnötige Rebalances sind es, die aus einer funktionierenden Consumer Group eine blockierte machen.

Was passiert während eines Kafka Rebalance tatsächlich?

Alle Consumer der Gruppe hören auf zu konsumieren, müssen der Gruppe erneut beitreten und warten, bevor sie weitermachen können. Der Group Leader – einer der Consumer, kein Kafka-Broker – sendet eine Anfrage an den Group Coordinator, berechnet die Partitionszuweisung und verteilt das Ergebnis. Zuerst werden Partitionen entzogen, dann neu ausgegeben – und welcher Consumer am Ende welche Partitionen erhält, kann sich in jeder Runde ändern.

Die entscheidende Eigenschaft: Das Ganze ist eine Synchronisationsbarriere. Alle Consumer einer Consumer Group bewegen sich gemeinsam, und das langsamste Mitglied gibt das Tempo vor. Braucht ein Consumer dreißig Sekunden für den erneuten Beitritt, wartet die ganze Gruppe dreißig Sekunden. Während des Rebalancing findet keine Nachrichtenverarbeitung statt; es baut sich ein Rückstau auf, und der Lag steigt, obwohl jeder Broker im Kafka-Cluster gesund ist.

Deshalb werden Rebalances und Lag so oft verwechselt. Wenn Sie wachsendem Lag hinterherjagen statt den Rebalances, die ihn verursachen, behandelt Kafka Consumer Lag diagnostizieren die Symptomseite.

Eager versus Cooperative Rebalancing

Das Kafka-Rebalance-Protokoll gibt es in zwei Generationen, und welche davon bei Ihnen läuft, verändert die Kosten jedes einzelnen Rebalance enorm.

Eager Rebalancing ist das ursprüngliche Stop-the-World-Verhalten. Jeder Consumer gibt alle ihm zugewiesenen Partitionen ab, bevor die neue Zuweisung berechnet wird. Selbst wenn die Neuzuweisung nur zwei von zweihundert Partitionen verschiebt, steht alles still. Die Pause wächst mit der Gruppengröße und der Rejoin-Zeit, nicht mit dem Umfang der tatsächlichen Änderung.

Inkrementelles Rebalancing entzieht nur die Partitionen, die tatsächlich wechseln. Die Consumer verarbeiten alles, was sie behalten, weiter. Das Cooperative-Rebalancing-Protokoll läuft in zwei leichteren Runden statt einer schweren, sodass die Auswirkung eines Rebalance mit dem Umfang der Änderung skaliert und nicht mit der Anzahl der Mitglieder. Dieser inkrementelle, kooperative Ansatz ist das, was die meisten Umgebungen einsetzen sollten.

Verfügbar ist das seit Kafka 2.4, in älteren Kafka-Clients aber nicht immer der Standard. Static Membership kam etwas früher, mit Kafka 2.3. Die Umstellung ist eine einzige Zeile:

partition.assignment.strategy=org.apache.kafka.clients.consumer.CooperativeStickyAssignor

⚠️ Setzen Sie das nicht einfach und deployen Sie. Der Wechsel von Eager zu Cooperative erfordert ein zweiphasiges Rolling Upgrade: Deployen Sie zuerst mit beiden Strategien in der Liste, damit sich die Gruppe einigen kann, und entfernen Sie die Eager-Strategie in einem zweiten Durchgang. Eine Änderung in einem Schritt an einer laufenden Gruppe lässt den Rebalance fehlschlagen.

Neuere Releases gehen noch weiter. Das neue Consumer-Rebalance-Protokoll verlagert die Berechnung der Zuweisung auf den Broker und beseitigt die globale Synchronisationsbarriere vollständig, sodass nicht mehr alle Consumer gemeinsam anhalten. Dieses neue Protokoll ist mit Apache Kafka 4.0 allgemein verfügbar (GA) geworden. Wenn Sie ein aktuelles Release nutzen, lohnt sich eine Evaluierung – die meisten Produktionsumgebungen sind aber noch nicht so weit, und der Sticky Assignor liefert schon heute den Großteil des Nutzens.

Vergleich: Eager Rebalancing hält alle Consumer an, inkrementelles Cooperative Rebalancing verschiebt nur die betroffenen Partitionen

Partition-Assignment-Strategien

AssignorVerhaltenKosten des Rebalance
RangeAssignorZusammenhängende Bereiche pro TopicEager; kann bei mehreren Topics ungleichmäßig verteilen
RoundRobinAssignorGleichmäßige Verteilung über alle PartitionenEager; weist alles neu zu
StickyAssignorGleichmäßige Verteilung, behält die bisherige Zuweisung möglichst beiEager, verschiebt aber weniger Partitionen
CooperativeStickyAssignorSticky und entzieht nur, was sich bewegtInkrementell – der, den Sie wollen

Stickiness zählt über die Pause selbst hinaus. Behält ein Consumer über einen Rebalance hinweg dieselben Topic-Partitionen, behält er auch seinen warmen lokalen State – Caches, laufende Aggregationen, State Stores von Kafka Streams. Unnötiges Umverteilen wirft das weg, und die Wiederherstellung kostet oft mehr als der Rebalance selbst.

Wenn Sie Spring Kafka oder einen anderen Framework-Wrapper nutzen, wird das über dieselbe zugrunde liegende Property gesetzt – das Framework ändert nichts daran, welche Strategien Ihnen zur Verfügung stehen.

Tabelle der Kafka-Partition-Assignment-Strategien im Vergleich: Range, Round Robin, Sticky und Cooperative Sticky Assignor

Der Kafka-Rebalance-Sturm: warum er sich nie von selbst legt

Die Rebalancing-Probleme, mit denen Teams zu uns kommen, folgen fast immer demselben Muster:

  1. Die Verarbeitung wird langsamer – eine nachgelagerte API verschlechtert sich oder ein Batch wird größer.
  2. Ein Consumer überschreitet max.poll.interval.ms und wird aus der Gruppe geworfen.
  3. Die Gruppe rebalanciert. Alle halten an.
  4. Während der Pause wächst der Rückstau.
  5. Beim Fortsetzen holt sich jeder Consumer einen vollen Batch aus einem größeren Rückstau und braucht länger, um ihn zu verarbeiten.
  6. Ein weiterer Consumer überschreitet das Intervall. Zurück zu Schritt 3.

Der Verarbeitungsdurchsatz bricht ein, während der Cluster selbst gesund bleibt.

Von allein erholt sich das nie, denn jeder neue Kafka Rebalance macht den nächsten wahrscheinlicher – genau deshalb fangen Teams an, den Cluster zu untersuchen statt der Art, wie sie den Consumer konfigurieren.

Den Kreislauf durchbrechen Sie in der Regel, indem Sie dafür sorgen, dass Batches innerhalb des Intervalls fertig werden:

  • Senken Sie max.poll.records. Die wirksamste Einzeländerung. Weniger Records pro Poll bedeuten weniger Zeit zwischen den Polls. Halbieren Sie den Wert für den Anfang.
  • Erhöhen Sie max.poll.interval.ms so, dass der Wert die Verarbeitungszeit im Worst Case wirklich übersteigt, nicht nur die typische. Messen Sie das p99, statt zu schätzen.
  • Verlagern Sie langsame Arbeit aus dem Polling-Thread. Enthält die Verarbeitung einen Netzwerkaufruf mit unvorhersehbarer Dauer, ist die Poll-Schleife der falsche Ort dafür.
  • Erhöhen Sie nicht session.timeout.ms, um das zu beheben. Das ist eine andere Uhr und hilft nicht – es verzögert nur die Erkennung tatsächlich toter Consumer.
Diagramm der Rückkopplungsschleife: langsame Verarbeitung überschreitet max.poll.interval.ms, löst einen Rebalance aus, der Rückstau wächst und weitere Rebalances folgen

Static Membership

Wo Consumer routinemäßig neu starten – am offensichtlichsten bei Rolling Deployments auf Kubernetes –, verhindert sie, dass ein Neustart überhaupt einen Rebalance auslöst.

Weisen Sie jedem Consumer eine stabile group.instance.id zu. Startet er innerhalb des Timeout-Fensters neu, erkennt der Coordinator das zurückkehrende Mitglied und gibt ihm seine bisherigen Partitionen zurück, ohne irgendetwas umzuverteilen:

group.instance.id=consumer-3
session.timeout.ms=45000

Der Trade-off ist klar: Ein tatsächlich totes Mitglied wird erst ersetzt, wenn seine Session abläuft, und so lange bleiben seine Partitionen unkonsumiert. Entscheiden Sie vor dem Aktivieren, ob bei einem Neustart ein Rebalance nötig ist. Setzen Sie das Timeout so, dass es Ihre Rolling-Restart-Zeit komfortabel übersteigt – und nicht mehr.

Für den Start gibt es außerdem eine Broker-seitige Einstellung, die Sie kennen sollten. group.initial.rebalance.delay.ms (Standard 3 Sekunden) lässt den Coordinator vor dem ersten Rebalance kurz warten, sodass gleichzeitig startende Consumer eine einzige Gruppe bilden, statt bei jedem Neuankömmling erneut zu rebalancieren. Eine Kleinigkeit, die viel Rauschen aus Kubernetes-Deployments nimmt.

Was Sie überwachen sollten

Beobachten Sie drei Dinge – und zwar gemeinsam:

  • Rebalance-Rate. Das eigentliche Signal. Alles, was über gelegentlich hinausgeht, verdient eine Untersuchung – und ein Consumer, der in einer Rebalance-Schleife feststeckt, zeigt sich hier zuerst.
  • Rebalance-Dauer. Steigt die Dauer, treten die Consumer nur langsam wieder bei – oft wegen derselben langsamen Verarbeitung, die den Rebalance ausgelöst hat.
  • Consumer Lag während Rebalances. Zeigt, ob Sie die Pausen tatsächlich Durchsatz kosten oder kurz genug sind, um keine Rolle zu spielen.

Eine Consumer Group, die rund um Deployments ein paarmal am Tag einen Kafka Rebalance durchläuft, ist in Ordnung. Rebalanciert sie alle paar Minuten, sagt Ihnen das, dass max.poll.interval.ms überschritten wird – und daran ändert kein noch so gutes Cluster-Tuning etwas.

Sie sehen Rebalance-Stürme oder unerklärliche Consumer-Pausen? Die Ursache liegt fast immer in der Consumer-

Konfiguration statt im Cluster – deshalb sehen die Broker-Metriken sauber aus, während der Durchsatz

einbricht. AceMQ führt strukturierte Kafka-Assessments durch, die genau das aufdecken –

Wenn eine einzige Person dieses ganze Wissen trägt, ist das ein Personalrisiko, kein Kafka-Risiko: was eigener Kafka-Support tatsächlich kostet.

Cooperative Rebalancing in der Praxis: prüfen, migrieren und was Streams und Connect tun

Range, Round Robin und der ursprüngliche Sticky Assignor nutzen alle das Eager-Protokoll. Bei jeder Änderung der Mitgliedschaft versetzt der Coordinator die Gruppe in den Zustand PreparingRebalance, jeder Consumer gibt jede Partition ab, die er besitzt, alle treten neu bei, und der Leader verteilt eine frische Zuweisung. Für diesen gesamten Durchlauf steht die ganze Gruppe still.

Kafka 2.4 hat Cooperative Rebalancing für Consumer eingeführt. Beim inkrementellen kooperativen Protokoll läuft ein Rebalance in zwei Phasen. In der ersten berechnet der Leader die neue Zuweisung, und jeder Consumer gibt nur die Partitionen ab, die ihn verlassen, während er auf allen anderen weiter pollt und committet. Unmittelbar danach folgt ein zweiter Rebalance, in dem die frei gewordenen Partitionen an ihre neuen Besitzer gehen. Der einzige clientseitige Assignor, der dieses Protokoll nutzt, ist CooperativeStickyAssignor.

Die meisten Gruppen, zu denen wir gerufen werden, laufen mit Eager, ohne es zu wissen. Erstens die Consumer-Konfiguration: partition.assignment.strategy ist eine Liste, und bei aktuellen Clients enthält die Standardliste sowohl Range als auch Cooperative Sticky. Der Coordinator wählt eine Strategie, die alle Mitglieder unterstützen – und mit der Standardliste landet er bei Range. Zweitens: Beschreiben Sie die Gruppe und sehen Sie nach, was der Coordinator tatsächlich gewählt hat:

kafka-consumer-groups.sh --bootstrap-server broker:9092 \
  --describe --group orders-svc --state

In der Spalte ASSIGNMENT-STRATEGY steht range oder cooperative-sticky. Range bedeutet, dass jeder Neustart weiterhin Stop-the-World ist.

Die Migration einer laufenden Gruppe braucht zwei Rolling Bounces, und die Reihenfolge ist entscheidend. Setzen Sie beim ersten partition.assignment.strategy auf den aktuellen Eager-Assignor, gefolgt von CooperativeStickyAssignor; der Eager-Assignor bleibt vorn, damit er ausgewählt bleibt, solange alte und neue Instanzen gemischt laufen. Entfernen Sie beim zweiten den Eager-Assignor. Ein einziger Schritt scheitert, weil ein Mitglied, das mitten im Bounce beitritt, keine gemeinsame Strategie mit den anderen findet und der Rebalance mit einem Fehler abbricht.

Kafka-Streams-Anwendungen nutzen das kooperative Protokoll bereits über ihren eigenen Assignor; dort ist nichts zu konfigurieren. Kafka-Connect-Worker verteilen Connectors und Tasks mit einem separaten inkrementellen kooperativen Protokoll, das über connect.protocol gesteuert wird; der Standardwert aktiviert es, sofern alle Worker es unterstützen.

Der Trade-off ist gering. Ein kooperativer Rebalance dauert insgesamt etwas länger, weil es zwei Rebalances statt einem sind, und die wechselnden Partitionen sind in diesem Zeitfenster nicht zugewiesen. Im Gegenzug stoppen die Partitionen, die nicht wechseln, nie. Die gewählte Partitionsanzahl begrenzt, wie viele Consumer sich die Arbeit teilen können – mehr dazu in unserem Leitfaden zur Partitionsstrategie.

Rebalance-Schleifen beheben: „rejoin is needed“ und „Preparing rebalance“ im Log

„The group is rebalancing, so a rejoin is needed“ ist die Meldung zum Fehlercode REBALANCE_IN_PROGRESS. Der Coordinator schickt sie an einen Consumer, dessen Request eine nicht mehr aktuelle Generation trägt – meist ein Heartbeat, ein Sync oder ein Offset-Commit, der gesendet wurde, nachdem die Gruppe in PreparingRebalance gewechselt ist. Für sich genommen ist das kein Fehler; der Client tritt neu bei, und die Gruppe stabilisiert sich. Zum Problem wird es, wenn die Meldung alle paar Sekunden wiederkehrt, die Gruppe nie Stable erreicht und der Lag steigt. Der Coordinator-Broker protokolliert eine passende Zeile „Preparing to rebalance group ... (reason: ...)“, und dieses Reason-Feld ist der schnellste Weg, herauszufinden, welcher der folgenden Fälle vorliegt.

1. max.poll.interval.ms überschritten. Der Consumer lebt, hat aber zwischen zwei Polls zu lange gebraucht und wurde deshalb entfernt. Prüfen: Die Consumer-Logs melden „consumer poll timeout has expired“, und der Broker nennt als Grund ein Mitglied, das die Gruppe verlässt. Lösung: Senken Sie max.poll.records, bis die Batch-Verarbeitung im Worst Case in das Intervall passt, und erhöhen Sie max.poll.interval.ms nur, wenn das p99 dann immer noch nicht hineinpasst.

2. session.timeout.ms zu niedrig für GC-Pausen oder Netzwerk. Der Heartbeat-Thread hängt oder seine Pakete kommen verzögert an, und das Mitglied wird entfernt. Prüfen: Der Broker nennt als Grund „heartbeat expiration“, die GC-Logs zeigen Pausen in der Nähe des Timeouts, und es gibt keine Poll-Timeout-Meldung. Lösung: Erhöhen Sie session.timeout.ms innerhalb des Broker-Limits group.max.session.timeout.ms und beheben Sie die Pause. Producer in derselben JVM zeigen verwandte Symptome – siehe Ursachen und Lösungen für Producer-Timeouts.

  • 3. Consumer skalieren in einer Schleife. Ein Autoscaler fügt Replicas hinzu, wenn der Lag steigt; der Lag sinkt, er entfernt sie; der Lag steigt wieder. Jedes Skalierungsereignis ist ein Rebalance. Prüfen: Die Beschreibung der Gruppe mit --members zeigt eine Mitgliederzahl, die sich von Minute zu Minute ändert und zu den Deployment-Ereignissen passt. Lösung: Fügen Sie ein Stabilisierungsfenster für das Herunterskalieren hinzu, begrenzen Sie die Replicas auf die Partitionsanzahl und skalieren Sie anhand eines glatteren Signals als des rohen Lags. Wie Sie Lag richtig messen, steht in unserem Leitfaden zum Consumer Lag.
  • 4. Keine Static Membership im Einsatz. Ohne group.instance.id bedeutet ein Rolling Deploy von zehn Pods zehn Leaves und zehn Joins. Mit ihr übernimmt ein Pod, der innerhalb des Session-Timeouts zurückkehrt, seine alte Zuweisung ohne Rebalance. Prüfen: --members --verbose zeigt generierte Member-IDs, die sich bei jedem Neustart ändern. Lösung: Setzen Sie pro Pod eine stabile Instance-ID.
  • 5. Wechsel von Coordinator oder Broker. Die __consumer_offsets-Partition, auf der die Gruppe liegt, ist auf einen anderen Broker gewandert, die Gruppe wurde neu geladen, und jedes Mitglied musste den Coordinator neu finden und erneut beitreten. Prüfen: Die Broker-Logs zeigen „Loading group metadata“ auf einem neuen Broker, und der Zeitpunkt passt zu einem Neustart oder einer Leader Election. Lösung: Auf Client-Seite nichts. Ein Rebalance pro Broker-Neustart ist normal; wiederholte Coordinator-Wechsel bedeuten, dass der Cluster selbst instabil ist.

Die drei Properties, die die meisten dieser Schleifen beenden:

max.poll.records=100
group.instance.id=orders-svc-${POD_ORDINAL}
partition.assignment.strategy=org.apache.kafka.clients.consumer.CooperativeStickyAssignor

Diese Korrekturen setzen wir für Enterprise-Kunden im Rahmen von 24/7-Kafka-Support mit Reaktionszeitzielen ab 15 Minuten, je nach Plan, um, und in Kafka-Beratungsprojekten konzipieren wir Gruppen von Anfang an so.

Dies ist Schritt vier von zehn im Leitfaden für den Kafka-Betrieb, der die betrieblichen Entscheidungen in der Reihenfolge behandelt, in der sie in einer Produktionsumgebung anstehen.

FAQ

Was löst einen Rebalance in einer Kafka Consumer Group aus?

Ein Consumer, der der Gruppe beitritt, sie ordnungsgemäß verlässt oder vom Group Coordinator für tot erklärt wird – entweder weil Heartbeats länger als session.timeout.ms ausbleiben oder weil zwischen zwei Polls mehr als max.poll.interval.ms vergeht. Auch eine Änderung der Partitionsanzahl eines abonnierten Topics löst einen Rebalance aus.

Warum verursacht ein Rebalance Latenz und Rückstau?

Weil er eine Synchronisationsbarriere ist. Die Consumer hören auf zu konsumieren, während die Gruppe neu beitritt und auf eine neue Zuweisung wartet; das langsamste Mitglied bestimmt also die Pause für alle. In diesem Zeitfenster wird nichts verarbeitet, und der Lag wächst.

Was ist Cooperative Rebalancing in Kafka?

Ein inkrementelles Protokoll, das nur die Partitionen entzieht, die tatsächlich den Besitzer wechseln, sodass die Consumer alles andere weiterverarbeiten können. Eager Rebalancing entzieht dagegen jedem Consumer sämtliche Partitionen – egal, wie wenig sich tatsächlich bewegt.

Wie verhindere ich häufige Kafka Rebalances?

Finden Sie heraus, welche Uhr abläuft. Dauern Batches zu lange, senken Sie max.poll.records und erhöhen Sie max.poll.interval.ms über den Worst Case hinaus. Sind Neustarts die Ursache, nutzen Sie Static Membership. Wechseln Sie anschließend zum Cooperative Sticky Assignor, damit die verbleibenden Rebalances günstiger werden.

Was ist Static Group Membership?

Eine stabile group.instance.id pro Consumer, über die der Coordinator ein neu startendes Mitglied wiedererkennt und ihm seine bisherigen Partitionen ohne Rebalance zurückgibt – vorausgesetzt, es kommt innerhalb des Session-Timeouts zurück.

Welche Partition-Assignment-Strategie sollte ich verwenden?

CooperativeStickyAssignor für die meisten Workloads – er minimiert sowohl Partitionsverschiebungen als auch Störungen durch Rebalances. Migrieren Sie über zwei Rolling Deployments, statt die Einstellung in einem Schritt zu ändern.

Löst das Hinzufügen von Partitionen einen Kafka Rebalance aus?

Ja. Wird die Partitionsanzahl eines abonnierten Topics erhöht, weist die Gruppe die Partitionen neu zu. Behandeln Sie Partitionsänderungen deshalb als geplanten Eingriff, nicht als Routinevorgang.

Ist ein Kafka Rebalance dasselbe wie das Neuzuweisen von Partitionen zwischen Brokern?

Nein – und das gemeinsame Vokabular sorgt für echte Verwirrung. Ein Consumer-Group-Rebalance verteilt Partitionen auf Consumer um. Das Verschieben von Partitionsreplikaten zwischen Brokern ist Partition Reassignment – ein eigener Cluster-Vorgang mit anderen Werkzeugen und anderen Risiken.

Warum rebalanciert meine Kafka Consumer Group ständig?

Nach unserer Erfahrung sind die Ursachen, nach Häufigkeit geordnet: Die Verarbeitung eines Poll-Batches dauert länger als max.poll.interval.ms; session.timeout.ms ist zu kurz für die GC-Pausen der JVM oder das Netzwerk; ein Autoscaler fügt Consumer in einer Schleife hinzu und entfernt sie wieder; die Consumer starten ohne group.instance.id neu, sodass jedes Deployment ein Leave plus ein Join ist; oder der Group Coordinator ist auf einen anderen Broker gewechselt. Welche Ursache vorliegt, verrät das Reason-Feld in der Logzeile „Preparing to rebalance group“ des Coordinator-Brokers. Beschreiben Sie die Gruppe mit --state, um zu sehen, ob sie jemals den Zustand Stable erreicht.

Wie verhindere ich, dass ein Kafka Rebalance zu Ausfallzeiten führt?

Drei Einstellungen beseitigen den Großteil der Probleme. Stellen Sie die Gruppe per Migration in zwei Rolling-Durchgängen auf CooperativeStickyAssignor um, damit nur die Partitionen pausieren, die tatsächlich wechseln. Geben Sie jedem Consumer eine stabile group.instance.id, damit Neustarts innerhalb des Session-Timeouts überhaupt keinen Rebalance auslösen. Begrenzen Sie max.poll.records, damit ein langsamer Batch keinen gesunden Consumer aus der Gruppe werfen kann. Stoppen Sie dann die Fluktuation an der Quelle: Stabilisieren Sie das Autoscaling und halten Sie die Replica-Anzahl bei oder unter der Partitionsanzahl. Eine gut konfigurierte Gruppe sollte nur dann rebalancieren, wenn Sie ihre Größe bewusst ändern.

Quellen

Scott Sternloff

Autor

Scott SternloffSenior Enterprise Architect

Senior Enterprise Architect bei AceMQ. Verantwortet hier die technischen Beiträge: Architektur, Clustering und Migrationen von RabbitMQ, Kafka und Redis.

Kostenlose Beratung

Lassen Sie Experten auf Ihre Kafka-Cluster-Umgebung schauen

Ob Sie einen Produktionsvorfall beheben, eine Migration planen oder eine zweite Meinung zu Ihrer Architektur wünschen – unser Team steht bereit. Kein Verkaufsgespräch, nur Antworten.

E-Mail schreiben