Leitfaden · RabbitMQ

Der Leitfaden für RabbitMQ-Clustering und -Sizing

Ein RabbitMQ-Cluster, der stabil läuft, ist das Ergebnis von Entscheidungen in der richtigen Reihenfolge: wie viele Knoten und wo, welcher Queue-Typ für welche Workload, wie viel Speicher und Plattenplatz jeder Knoten bei Spitzenlast braucht und was passiert, wenn das Netzwerk Probleme macht. Dieser Leitfaden behandelt sie genau in dieser Reihenfolge.

Tyler Eastridge

Von Tyler Eastridge, Head of Operations

LinkedIn · Aktualisiert am · 4 Min. Lesezeit · 7 Abschnitte

Auf dieser Seite

Clustering in einem Absatz

Clustering in einem Absatz

Drei Knoten – oder fünf für Umgebungen, die zwei Ausfälle überstehen müssen – auf getrennten Hosts in getrennten Fehlerdomänen, mit pause_minority als Partition Handling. Quorum Queues für alles, was dauerhaft sein muss, Streams für Replay und Fan-out, Classic Queues nur für transienten Traffic und kein Classic Mirroring. Dimensionieren Sie Speicher und Platte nach dem Spitzen-Backlog statt nach dem durchschnittlichen Durchsatz, lassen Sie Reserven für die Scheduler und setzen Sie Watermark und Disk-Free-Limit passend zum realen Host. Stimmen Sie anschließend Heartbeats und net_ticktime auf das tatsächliche Netzwerk ab und dokumentieren Sie jede Policy.

Knotenanzahl und Platzierung

Quorum Queues benötigen eine Mehrheit, deshalb ist die Knotenanzahl ungerade: Drei Knoten überstehen einen Ausfall, fünf überstehen zwei. Die Knoten laufen auf getrennten physischen Hosts, in getrennten Availability Zones (AZ), sofern die Cloud sie anbietet, und in einem Netzwerk mit niedriger, stabiler Latenz zwischen ihnen. Cluster mit zwei Knoten können keine Mehrheit bilden und sind schlechter als ein einzelner Knoten; gerade Anzahlen verschwenden einen Knoten. Spannen Sie einen Cluster nicht über Regionen hinweg auf.

Aus unseren Projekten. Von den 8 Clustern, deren Größe wir in 22 untersuchten IT-Landschaften erfasst haben, liefen 4 mit drei Knoten und 3 mit einer geraden Anzahl, zwei oder vier. Eine der IT-Landschaften mit vier Knoten wurde genau deshalb untersucht: Eine gerade Anzahl toleriert entweder gar keinen Ausfall oder kann in zwei Hälften ohne Mehrheit zerfallen.

Was jede Knotenanzahl einem Cluster mit Quorum Queues bringt
KnotenBenötigte MehrheitÜberstandene Node-AusfälleIn der Praxis
110Keine Redundanz
220Schlechter als ein Knoten: Fällt einer der beiden Knoten aus, ist die Mehrheit verloren
321Der kleinste Cluster, der einen Ausfall übersteht
431Übersteht nicht mehr Ausfälle als drei Knoten und kann in zwei Hälften zerfallen
532Für IT-Landschaften, die zwei Ausfälle überstehen müssen
Tabelle · Was jede Knotenanzahl einem Cluster mit Quorum Queues bringt. Auf kleinen Bildschirmen seitlich scrollen.

Ein Queue-Typ pro Workload, bewusst gewählt

Quorum Queues für alles, was den Verlust eines Knotens überstehen muss: Sie replizieren per Raft, wählen bei Ausfällen neue Leader und unterstützen Delivery Limits und Dead-Lettering. Streams für Fan-out und Replay mit hohem Durchsatz. Classic Queues ausschließlich für transienten, nicht replizierten Traffic. Classic Mirrored Queues sind veraltet und sollten migriert statt optimiert werden.

Speicher, Platte und CPU nach Spitzenlast dimensionieren, nicht nach Durchschnitt

Den Speicherbedarf bestimmt der Backlog: Eine Queue, die normalerweise leer ist, kann während eines Consumer-Ausfalls Millionen von Nachrichten aufnehmen – und genau diesen Fall muss der Knoten überstehen. Den Plattenbedarf bestimmt derselbe Backlog plus die Segmente der Quorum Queues und das Write-Ahead-Log. Die CPU richtet sich nach den Reserven der Erlang-Scheduler bei Spitzenraten für Publish und Consume, auf virtualisierten Hosts mit dedizierten Kernen. Setzen Sie vm_memory_high_watermark und disk_free_limit passend zum realen Host, damit die Alarme auslösen, bevor der Knoten ausfällt, und richten Sie Alerts auf diese Alarme ein.

Reaktionszeitziele ab 15 Minuten, je nach Plan. Namentlich zugeordnete Senior Engineers.

Kontakt

Festlegen, was bei einer Partition passiert, bevor sie eintritt

cluster_partition_handling steht in Produktion auf pause_minority: Die Minderheitsseite pausiert, die Mehrheit bedient weiter, und nach der Heilung gibt es nichts abzugleichen. Ab RabbitMQ 4.3 gilt das nicht mehr: Mit 4.3.0 wurden Mnesia und damit auch die Strategien für das Partition Handling entfernt. cluster_partition_handling wird in rabbitmq.conf zwar noch akzeptiert, hat aber keine Wirkung, und Metadatenspeicher, Quorum Queues und Streams basieren durchgängig auf Raft – allein die Raft-Mehrheitsregel entscheidet also, welche Seite weiter bedient. Entfernen Sie den Schlüssel beim Upgrade. autoheal lässt beide Seiten Schreibvorgänge annehmen und verwirft dann eine Seite – Datenverlust per Design. ignore ist etwas fürs Labor. In Kombination mit Quorum Queues und einer ungeraden Knotenanzahl wird aus den meisten Partitionsvorfällen ein pausierter Knoten und ein Alarm statt einer Untersuchung von Datenverlust.

Den Cluster auf sein Netzwerk abstimmen

Die Standardwerte setzen ein LAN voraus. Setzen Sie bei Cloud- und WAN-Verbindungen längere Heartbeats, optimieren Sie tcp_listen_options für Keepalive und Puffer und erhöhen Sie den Erlang-Parameter net_ticktime, damit vorübergehende Latenz nicht als Knotenausfall gewertet wird. Synchronisieren Sie die Uhren per NTP. Validieren Sie unter realen Bedingungen: Ein Cluster, der im Labor besteht und in Produktion jede Woche partitioniert, hat meist ein Problem mit net_ticktime.

Policies statt Argumente pro Queue

Queue-Typ, Delivery Limits, Dead Letter Exchanges, TTL, max-length und Overflow-Verhalten gehören in Policies, die per Muster greifen. So erfordert eine Topologieänderung kein erneutes Deployment der Clients, und ein Auditor kann die Absicht an einer Stelle nachlesen. Gezielte Policies statt pauschaler: Eine Policy, die auf jede Queue passt, ist genau der Grund, warum das Mirroring einst aus dem Ruder lief. Verwalten Sie die Policies in der Versionskontrolle, zusammen mit dem Export der Definitionen.

Der Cluster ist nur so stabil wie seine Clients

Langlebige Verbindungen mit gepoolten Channels, begrenzter Prefetch, zeitnahe Acknowledgements, Publisher Confirms für alles, was nicht verloren gehen darf, und automatische Wiederherstellung von Verbindungen. Die meisten Cluster-Symptome – steigende Zahlen unbestätigter Nachrichten, erschöpfte File Descriptors, Speicherverbrauch, der wie ein Leak aussieht – beginnen im Client-Code. Prüfen Sie die Clients als Teil des Cluster-Designs, nicht erst nach dem ersten Vorfall.

Häufig gestellte Fragen

Wie viele Knoten sollte ein RabbitMQ-Cluster haben?

Drei für die meisten Produktionsumgebungen, fünf, wenn zwei gleichzeitige Ausfälle überstanden werden müssen. Immer eine ungerade Anzahl, denn Quorum Queues brauchen eine Mehrheit; zwei Knoten sind schlechter als einer. Die Knoten laufen auf getrennten Hosts und in der Cloud in getrennten Availability Zones.

Sollte ich Quorum Queues oder Classic Queues verwenden?

Quorum Queues für alles, was den Verlust eines Knotens überstehen muss, Streams für Replay und Fan-out mit hohem Durchsatz, Classic Queues nur für transienten Traffic, der verloren gehen darf. Classic Mirrored Queues sind veraltet und sollten migriert werden.

Wie dimensioniere ich einen RabbitMQ-Knoten?

Nach dem Spitzen-Backlog, nicht nach dem durchschnittlichen Durchsatz. Speicher und Platte müssen den größten Backlog aufnehmen, den ein Consumer-Ausfall erzeugen kann, plus die Segmente der Quorum Queues und das Write-Ahead-Log. Die CPU braucht Reserven für die Erlang-Scheduler bei Spitzenraten, bei Virtualisierung auf dedizierten Kernen.

Kann ein RabbitMQ-Cluster über mehrere Availability Zones laufen?

Ja, und das sollte er auch – innerhalb einer Region. Über Regionen hinweg nicht: Die Kommunikation zwischen den Knoten setzt niedrige Latenz voraus, und WAN-Jitter führt zu Partitionen. Betreiben Sie einen Cluster pro Region und verbinden Sie sie per Federation oder Shovel.

Kostenlose Beratung

Lassen Sie Experten auf Ihre RabbitMQ-Cluster-Umgebung schauen

Ob Sie einen Produktionsvorfall beheben, eine Migration planen oder eine zweite Meinung zu Ihrer Architektur wünschen – unser Team steht bereit. Kein Verkaufsgespräch, nur Antworten.

E-Mail schreiben