BlogKafka

Kafka Disaster Recovery: Multi-Region-Strategien, Architekturen und RPO/RTO-Abwägungen

Scott Sternloff

Von Scott Sternloff, Senior Enterprise Architect

LinkedIn · Aktualisiert am · 10 Min. Lesezeit

Kafka Disaster Recovery: Multi-Region-Strategien, Architekturen und RPO/RTO-Abwägungen
Auf dieser Seite

Für Disaster Recovery mit Kafka stellen Sie einen zweiten Kafka-Cluster in einer unabhängigen Fehlerdomäne bereit – einer separaten Region oder einem anderen Rechenzentrum –, replizieren Topics und Offsets der Consumer Groups kontinuierlich dorthin, etwa mit Kafka MirrorMaker 2, Confluent Replicator oder AWS MSK Replicator, und pflegen ein getestetes Failover-Runbook, das Producer und Consumer auf den Zielcluster umleitet. Welche Architektur Sie wählen – Active-Passive, Active-Active oder Stretch Cluster –, bestimmen zwei Zahlen: Ihr Recovery Point Objective (wie viel Datenverlust Sie tolerieren können) und Ihr Recovery Time Objective (wie schnell der Service wieder laufen muss). Alles andere in einem Disaster-Recovery-Plan für Kafka ergibt sich aus diesen beiden geschäftlichen Anforderungen.

Dieser Leitfaden stellt die wichtigsten Architekturen für Disaster Recovery mit Kafka vor, die Abwägungen zwischen ihnen und die Fallstricke im Betrieb – vor allem die Offset-Übersetzung –, die einen Plan, der auf dem Papier gut aussieht, von einem unterscheiden, der einen echten Katastrophenfall tatsächlich übersteht.

Warum ein einzelner Kafka-Cluster keine DR-Strategie ist

Apache Kafka gilt als fehlertolerant, und innerhalb eines einzelnen Clusters stimmt das auch. Bei einem Replikationsfaktor von 3 verteilt Kafka die Partitionsdaten auf mehrere Broker, sodass der Ausfall von einem oder zwei Brokern im Cluster keinen Datenverlust verursacht. Die Leader Election befördert In-Sync-Replicas automatisch, und ein gut konfiguriertes Deployment steckt alltägliche Broker-Ausfälle einfach weg.

Die eingebaute Replikation schützt Sie aber nur innerhalb einer Fehlerdomäne. Ein einzelner Cluster – selbst einer, der sich über mehrere Racks erstreckt – lebt in einer Region, einem Netzwerk, einem administrativen Wirkungsbereich. Er schützt nicht vor dem Verlust einer ganzen Region, einem versehentlich gelöschten Topic, einer fehlerhaften ACL-Änderung, einem beschädigten KRaft-Quorum oder einem Ausfall des Cloud-Anbieters. Hochverfügbarkeit und Disaster Recovery sind unterschiedliche Disziplinen: HA hält den Cluster bei Komponentenausfällen am Laufen, DR stellt den Kafka-Service wieder her, nachdem die gesamte Umgebung weg ist.

Für Teams, die Echtzeit-Datenpipelines betreiben, auf die das Geschäft angewiesen ist, ist diese Unterscheidung das Fundament der Business-Continuity-Planung. Ist Kafka das Rückgrat von Zahlungsverkehr, Logistik oder Betrugserkennung, ist eine Downtime von mehreren Stunden kein akzeptables Ergebnis – und stillschweigend verlorene Events sind es ebenso wenig.

Beginnen Sie mit RPO und RTO, nicht mit Tools

Bevor Sie Replikationstools vergleichen, legen Sie gemeinsam mit dem Business zwei Zahlen fest:

  • Recovery Point Objective (RPO) – der maximal akzeptable Datenverlust, gemessen in Zeit. Ein RPO von fünf Minuten bedeutet, dass Sie im Katastrophenfall bis zu fünf Minuten an Kafka-Daten verlieren dürfen.
  • Recovery Time Objective (RTO) – die maximal akzeptable Zeit bis zur Wiederherstellung des Service. Ein RTO von 30 Minuten bedeutet, dass Consumer und Producer innerhalb einer halben Stunde wieder laufen müssen.

Diese Ziele bestimmen die Kosten. Asynchrone Replikation zwischen Regionen ergibt einen RPO in Höhe Ihrer Replikationsverzögerung (typischerweise Sekunden bis Minuten) bei moderaten Kosten. Ein RPO von null – Failover ohne Datenverlust – erfordert synchrone Replikation. Das heißt: Sie zahlen bei jedem Produce-Request einen Latenzaufschlag und betreiben Infrastruktur über mehrere Availability Zones mit schnellen Verbindungen. Die erreichbare Wiederherstellungszeit hängt weniger vom Tooling ab als davon, wie automatisiert und gut eingeübt Ihr Failover-Verfahren ist.

Seien Sie bei jedem Workload ehrlich. Ein Cluster mit Clickstream-Analytics verträgt einen lockereren Recovery Point als einer mit Finanztransaktionen. Viele Teams landen bei gestuften Recovery-Plänen: strikte RPO/RTO-Werte für eine kleine Gruppe kritischer Topics, entspanntere Ziele für alles andere.

Disaster-Recovery-Architekturen für Kafka

Für Disaster Recovery mit Apache Kafka® gibt es vier weit verbreitete Muster. Die meisten Produktions-Deployments nutzen eines der ersten beiden.

Active-Passive mit MirrorMaker 2

Die gängigste Strategie für Kafka-DR ist ein Active-Passive-Paar: Ein primärer Cluster bedient den gesamten Traffic, während MirrorMaker 2 (MM2), das mit Apache Kafka ausgeliefert wird und auf dem Framework Kafka Connect läuft, Topics, Konfigurationen und Consumer-Offsets asynchron in einen Standby-Cluster in einer anderen Region oder einem anderen Rechenzentrum repliziert.

Im Normalbetrieb empfängt der passive Cluster replizierte Daten, bedient aber keine Clients. Im Katastrophenfall führen Sie ein Failover durch: Producer und Consumer auf den Standby umstellen, ihn zum Primärcluster befördern und weitermachen. Der RPO entspricht der Replikationsverzögerung; der RTO hängt davon ab, wie schnell sich die Clients umleiten lassen – mit DNS-basierten Bootstrap-Adressen und eingeübter Automatisierung können das Minuten sein.

Active-Passive ist beliebt, weil es konzeptionell einfach ist, mit Open-Source-Tooling funktioniert und den Standby-Cluster günstig hält (er kann bis zur Beförderung kleiner dimensioniert sein). Seine Schwächen sind asymmetrisch: Das Failback nach dem Ende der Katastrophe ist oft schwieriger als das Failover, und eine ungetestete Offset-Synchronisation kann das Wiederaufsetzen der Consumer unbemerkt zerstören – mehr dazu weiter unten.

Active-Active-Kafka

In einer Active-Active-Topologie bedienen zwei (oder mehr) Cluster in verschiedenen Regionen gleichzeitig Live-Traffic und replizieren jeweils in den anderen, meist mit MM2 oder Confluent Cluster Linking. Clients in jeder Region produzieren und konsumieren lokal. Das senkt die regionsübergreifende Latenz für geografisch verteilte Nutzer, und ein Failover ist weitgehend eine Frage des Traffic-Routings: Fällt eine Region aus, ist die andere bereits live.

Der Preis ist Komplexität. Multi-Region-Kafka im Active-Active-Modus erfordert eine sorgfältige Benennung der Topics (MM2 versieht replizierte Topics mit dem Alias des Quellclusters als Präfix, um endlose Replikationsschleifen zu verhindern), Anwendungen, die Eventual Consistency zwischen Regionen tolerieren, und eine Strategie gegen doppelte Verarbeitung, wenn eine Consumer Group umzieht. Eine globale Reihenfolge über Regionen hinweg gibt es nicht. Für den passenden Anwendungsfall – permanent verfügbare, geografisch verteilte Workloads – liefert Active-Active den besten erreichbaren RTO. Für ein Produkt in einer einzigen Region ist es meist Over-Engineering.

Stretch Cluster

Ein Stretch Cluster ist ein einziges Kafka-Deployment, dessen Broker sich über mehrere Rechenzentren oder Availability Zones erstrecken. Er nutzt synchrone Replikation (acks=all mit standortübergreifend durchgesetztem min.insync.replicas), sodass jeder Write an mindestens zwei Standorten landet, bevor er bestätigt wird. Fällt ein ganzer Standort aus, läuft der Cluster weiter – kein Failover-Ereignis, keine Offset-Übersetzung, RPO von null.

Der Haken sind Physik und Kosten. Jeder Produce-Request zahlt die Round-Trip-Latenz zwischen den Standorten, Stretch Cluster sind also nur zwischen Standorten mit Verbindungen niedriger Latenz praktikabel (typischerweise unter ~50 ms, idealerweise AZs innerhalb einer Region, mit 2.5DC/3DC-Designs für die Platzierung des Quorums). Entgegen der Intuition ist ein Stretch Cluster nicht immer teurer als Mirroring – Sie betreiben einen Cluster statt zwei –, aber er schützt nicht vor regionalen Katastrophen, wenn alle Standorte in derselben Region liegen, und er schützt nie vor Bedienfehlern, die sich sofort auf jeden Standort replizieren.

Backup und Restore in Object Storage

Cluster-Replikation ersetzt keine Backups. Replikation kopiert Fehler getreu mit – ein gelöschtes Topic oder Poison-Pill-Daten sind innerhalb von Sekunden auf Ihrem DR-Standort gespiegelt. Regelmäßige Snapshots kritischer Topics in Object Storage (über S3-Sinks von Kafka Connect oder Tiered Storage) ermöglichen eine Point-in-Time-Recovery, die Replikation nicht leisten kann, um den Preis eines deutlich langsameren Restores. Betrachten Sie das als Ergänzung zu einem Live-Standby, nicht als Ersatz.

Kafka-DR-Architekturen im Vergleich

Architektur Typischer RPO Typischer RTO Relative Kosten Komplexität Am besten geeignet für
Active-Passive (MM2) Sekunden bis Minuten (asynchrone Verzögerung) Minuten bis Stunden $$ Mittel Die meisten Enterprise-Workloads
Active-Active Sekunden (pro Region) Sekunden bis Minuten $$$ Hoch Geografisch verteilte, permanent verfügbare Systeme
Stretch Cluster Null Nahezu null (automatisch) $$–$$$ Mittel bis hoch Standorte mit niedriger Latenz, Vorgaben ohne jeden Datenverlust
Backup/Restore Stunden (Snapshot-Intervall) Stunden $ Niedrig Compliance, Wiederherstellung nach Bedienfehlern

Sie betreiben Kafka in Produktion ohne eingeübten Failover-Plan? Die Senior Engineers von AceMQ entwerfen, implementieren und testen Disaster Recovery für Kafka unter realen Bedingungen – und wenn um 3 Uhr nachts etwas ausfällt, arbeitet unser 24/7-Support-Team nach Reaktionszeitziele ab 15 Minuten, je nach Plan. Sprechen Sie mit einem Kafka-Engineer.

Das Problem der Offset-Übersetzung (wo DR-Pläne tatsächlich scheitern)

Der subtilste Fehlermodus bei Disaster Recovery mit Kafka ist nicht Datenverlust, sondern Consumer, die an der falschen Stelle weiterlesen. Offsets sind clusterspezifisch: Offset 1.000.000 auf dem Primärcluster ist nicht Offset 1.000.000 auf dem Zielcluster, weil die Replikation zu unterschiedlichen Zeitpunkten beginnt, die Retention unterschiedliche Bereiche löscht und die Compaction die Logs unterschiedlich umschreibt.

MirrorMaker 2 begegnet dem mit Checkpointing: Der MirrorCheckpointConnector übermittelt in regelmäßigen Abständen übersetzte Offsets der Consumer Groups an das Ziel, und seit Kafka 2.7 kann er sie direkt in das Topic __consumer_offsets des Ziels synchronisieren. Es gibt aber Fallstricke, die bei echten Failovers zuschlagen:

  • Granularität der Checkpoints. Die Offset-Synchronisation erfolgt periodisch (Standard: alle 60 Sekunden). Ein Consumer, der ein Failover durchläuft, landet am letzten Checkpoint, nicht beim zuletzt konsumierten Record – rechnen Sie mit erneuter Verarbeitung und machen Sie Consumer idempotent.
  • Die Übersetzung hinkt der Replikation hinterher. MM2 kann einen Offset erst übersetzen, wenn der zugehörige Record repliziert wurde. Steigt die Replikationsverzögerung während genau des Ausfalls, der das Failover auslöst, fallen die übersetzten Offsets noch weiter zurück.
  • Gruppen müssen für die Synchronisation inaktiv sein. MM2 überschreibt keine Offsets von Consumer Groups, die aktiv mit dem Zielcluster verbunden sind. Das überrascht Teams, die ein Failover mit Live-Consumern auf beiden Seiten testen.
  • Eine Einbahnstraße. Checkpoints fließen von der Quelle zum Ziel. Ein Failback auf den ursprünglichen Primärcluster nach einer erfolgreichen Wiederherstellung erfordert umgekehrte Replikation und einen eigenen Durchlauf der Offset-Übersetzung – planen und testen Sie das Failback ausdrücklich.
  • Stream-Prozessoren tragen zusätzlichen Zustand. Jobs in Kafka Streams und Apache Flink halten internen Zustand (Changelog-Topics, Flink-Checkpoints und -Savepoints), der konsistent wiederhergestellt werden muss, nicht nur die Topic-Daten.

Wenn Sie nicht genau sagen können, wo jede Consumer Group nach einem Failover weiterliest, haben Sie noch keinen Disaster-Recovery-Plan, sondern eine Replikationspipeline.

Einen Disaster-Recovery-Plan für Kafka aufbauen und testen

Ein tragfähiger Disaster-Recovery-Plan für ein Kafka-Setup deckt fünf Dinge ab:

  1. Umfang und Ziele. Welche Topics, welche Consumer Groups, welche RPO/RTO-Werte pro Stufe – abgezeichnet vom Business, nicht nur vom Plattform-Team.
  2. Replikationskonfiguration. Wie Sie MM2 oder die Replikation Ihres gewählten Kafka-Service konfigurieren: Topic-Filter, Intervalle für die Offset-Synchronisation, Replikation von ACLs und Schemas (vergessen Sie die Schema Registry nicht – Consumer am DR-Standort brauchen die Schemas) sowie Monitoring der Replikationsverzögerung mit Alarmschwellen, die an Ihren RPO gekoppelt sind.
  3. Failover-Runbook. Exakte, ausführbare Wiederherstellungsverfahren: Wer entscheidet, wie werden Clients umgeleitet (DNS, Service Discovery, Konfigurations-Push), wie werden Offsets geprüft, und wie bestätigen Sie die erfolgreiche Wiederherstellung?
  4. Failback-Runbook. Wie replizierte Änderungen zurückfließen und wie Sie ohne Datenverlust oder Lawinen doppelter Nachrichten in den Normalbetrieb zurückkehren.
  5. Ein Testkalender. Mindestens vierteljährliche Game Days. Simulieren Sie Broker-Ausfälle, schalten Sie eine Availability Zone ab und üben Sie dann ein vollständiges regionales Failover in Staging mit produktionsnahem Traffic. Messen Sie den RTO, den Sie tatsächlich erreichen, und aktualisieren Sie die Dokumentation jedes Mal, wenn die Realität vom Plan abweicht.

Ungetestete DR scheitert. Jeder erfahrene Kafka-Betreiber hat schon eine Mirroring-Pipeline gesehen, die ein Jahr lang unauffällig lief und dabei wegen eines falsch konfigurierten Topic-Filters still und leise ein Topic übersprang – entdeckt erst beim echten Ausfall.

Managed Kafka und Disaster Recovery in der Cloud

Managed-Plattformen verschieben die Mechanik, nicht die Verantwortung. Auf AWS bietet MSK Replicator eine verwaltete regionsübergreifende Replikation für MSK, während MirrorMaker 2 das Mittel der Wahl für hybride Topologien und solche über mehrere Accounts bleibt. Confluent bietet Cluster Linking, das Daten mit Byte-genau erhaltenen Offsets in einen Cluster in Confluent Cloud repliziert – und damit das Problem der Offset-Übersetzung beseitigt –, und die Multi-Region-Optionen von Confluent Cloud können einen Großteil des Failovers automatisieren. Das sind wirklich nützliche Funktionen, doch bei jeder von ihnen müssen Sie weiterhin RPO/RTO definieren, die Umleitung der Clients einrichten und das Runbook üben. Verwaltete Replikation ist keine verwaltete Wiederherstellung.

Geht es Ihnen bei diesem Artikel eher um Architektur als um einen akuten Incident – Partitionsstrategie, Sizing, Sicherheitsdesign, eine Migration –, setzt die Kafka-Beratung von AceMQ einen namentlich zugeordneten Senior Engineer darauf an.

Dies ist Schritt acht von zehn im Leitfaden für den Kafka-Betrieb, der die betrieblichen Entscheidungen in der Reihenfolge behandelt, in der sie in einer Produktionsumgebung anfallen.

Häufig gestellte Fragen

Was ist die gängigste Disaster-Recovery-Strategie für Kafka-Cluster?

Am weitesten verbreitet ist Active-Passive-Replikation mit MirrorMaker 2: ein asynchroner Spiegel von Topics und Consumer-Offsets in einen Standby-Cluster in einer anderen Region, kombiniert mit einem eingeübten Failover-Verfahren für die Clients. Für die meisten Workloads ist das ein guter Kompromiss aus Kosten, Einfachheit und soliden RPO/RTO-Werten.

Ist bei Kafka Disaster Recovery ohne Datenverlust möglich?

Ja, aber nur mit synchroner Replikation – einem Stretch Cluster über mehrere Availability Zones mit acks=all und passendem min.insync.replicas oder einer Plattformfunktion, die synchrone standortübergreifende Writes bereitstellt. Asynchrone Tools wie Kafka MirrorMaker 2 haben immer einen RPO in Höhe der Replikationsverzögerung. Ein Failover ohne Datenverlust lässt sich mit asynchronem Mirroring allein daher nicht garantieren.

Wie oft sollten wir einen Disaster-Recovery-Plan für Kafka testen?

Mindestens vierteljährlich und zusätzlich nach jeder wesentlichen Änderung am Kafka-Deployment (Versions-Upgrades, neue kritische Topics, Änderungen an der Topologie). Ein vollständiger Test umfasst ein regionales Failover in einer Staging-Umgebung, die Prüfung, wo jede kritische Consumer Group weiterliest, und einen gemessenen RTO im Vergleich zu Ihrem Zielwert.

Sind Stretch Cluster nicht teurer als Mirroring?

Nicht unbedingt. Ein Stretch Cluster ist ein einziger Cluster, der über mehrere Standorte verteilt ist, während Mirroring den Betrieb von zwei vollständigen Clustern plus Replikationsschicht erfordert. Stretch Cluster kosten mehr Latenz und Netzwerk und verlangen hochwertige Verbindungen, können bei Hardware und Betrieb aber günstiger sein. Die eigentlichen Grenzen sind das Latenzbudget und die Tatsache, dass ein Stretch Cluster innerhalb einer Region den Verlust der gesamten Region nicht übersteht.

Was ist MirrorMaker 2 und wie funktioniert es?

MirrorMaker 2 ist das Tool für clusterübergreifende Replikation, das mit Apache Kafka ausgeliefert wird. Es ist in KIP-382 definiert und basiert auf dem Framework Kafka Connect. MirrorMaker 2 konsumiert aus einem Quellcluster, produziert in einen Zielcluster und repliziert dabei Topics, Topic-Konfigurationen, Consumer Groups samt ihren Offsets sowie ACLs. Standardmäßig wird ein repliziertes Topic umbenannt und erhält den Alias des Quellclusters als Präfix: Aus orders in einem Cluster namens us-west wird im Zielcluster us-west.orders. Erst diese Namensgebung macht Active-Active-Setups ohne Replikationsschleifen möglich – und sie ist auch der Grund, warum Failover-Runbooks die Consumer auf die umbenannten Topics umleiten müssen.

Was passiert bei einem Failover mit den Consumer-Offsets?

Bei MirrorMaker 2 übersetzen Checkpoints die Offsets der Consumer Groups in einem festen Intervall vom Quell- in den Zielcluster. Beim Failover setzen Consumer am letzten übersetzten Checkpoint wieder auf – in der Regel leicht hinter ihrer tatsächlichen Position –, sodass einige Records erneut verarbeitet werden. Consumer sollten idempotent sein, und die Intervalle für die Offset-Synchronisation sollten enger eingestellt werden als Ihr RPO. Confluent Cluster Linking umgeht die Übersetzung komplett, weil es Offsets Byte für Byte erhält. --- Kafka Disaster Recovery ist eine Strategie für die Resilienz von Kafka, kein Produkt, das Sie installieren: Wählen Sie die Architektur, die zu Ihrem RPO und RTO passt, replizieren Sie Daten mit Tools, die Sie verstehen, achten Sie penibel auf das Offset-Verhalten und testen Sie, bis ein Failover zur Routine geworden ist. Warten Sie nicht auf den Ausfall, um die Lücken zu finden. AceMQ bietet 24/7-Enterprise-Support für Open-Source-Kafka mit Senior Engineers in Rufbereitschaft und Reaktionszeitzielen ab 15 Minuten, je nach Plan – vom Review Ihrer DR-Architektur bis zu dem Team, das Sie alarmieren, wenn eine Region ausfällt. Entdecken Sie die Kafka-Services von AceMQ oder sichern Sie sich 24/7-Support.

Scott Sternloff

Autor

Scott SternloffSenior Enterprise Architect

Senior Enterprise Architect bei AceMQ. Verantwortet hier die technischen Beiträge: Architektur, Clustering und Migrationen von RabbitMQ, Kafka und Redis.

Kostenlose Beratung

Lassen Sie Experten auf Ihre Kafka-Cluster-Umgebung schauen

Ob Sie einen Produktionsvorfall beheben, eine Migration planen oder eine zweite Meinung zu Ihrer Architektur wünschen – unser Team steht bereit. Kein Verkaufsgespräch, nur Antworten.

E-Mail schreiben