Auf dieser Seite
Clustering in einem Absatz
Clustering in einem Absatz
Drei Knoten – oder fünf für Umgebungen, die zwei Ausfälle überstehen müssen – auf getrennten Hosts in getrennten Fehlerdomänen, mit pause_minority als Partition Handling. Quorum Queues für alles, was dauerhaft sein muss, Streams für Replay und Fan-out, Classic Queues nur für transienten Traffic und kein Classic Mirroring. Dimensionieren Sie Speicher und Platte nach dem Spitzen-Backlog statt nach dem durchschnittlichen Durchsatz, lassen Sie Reserven für die Scheduler und setzen Sie Watermark und Disk-Free-Limit passend zum realen Host. Stimmen Sie anschließend Heartbeats und net_ticktime auf das tatsächliche Netzwerk ab und dokumentieren Sie jede Policy.
Knotenanzahl und Platzierung
Quorum Queues benötigen eine Mehrheit, deshalb ist die Knotenanzahl ungerade: Drei Knoten überstehen einen Ausfall, fünf überstehen zwei. Die Knoten laufen auf getrennten physischen Hosts, in getrennten Availability Zones (AZ), sofern die Cloud sie anbietet, und in einem Netzwerk mit niedriger, stabiler Latenz zwischen ihnen. Cluster mit zwei Knoten können keine Mehrheit bilden und sind schlechter als ein einzelner Knoten; gerade Anzahlen verschwenden einen Knoten. Spannen Sie einen Cluster nicht über Regionen hinweg auf.
Aus unseren Projekten. Von den 8 Clustern, deren Größe wir in 22 untersuchten IT-Landschaften erfasst haben, liefen 4 mit drei Knoten und 3 mit einer geraden Anzahl, zwei oder vier. Eine der IT-Landschaften mit vier Knoten wurde genau deshalb untersucht: Eine gerade Anzahl toleriert entweder gar keinen Ausfall oder kann in zwei Hälften ohne Mehrheit zerfallen.
| Knoten | Benötigte Mehrheit | Überstandene Node-Ausfälle | In der Praxis |
|---|---|---|---|
| 1 | 1 | 0 | Keine Redundanz |
| 2 | 2 | 0 | Schlechter als ein Knoten: Fällt einer der beiden Knoten aus, ist die Mehrheit verloren |
| 3 | 2 | 1 | Der kleinste Cluster, der einen Ausfall übersteht |
| 4 | 3 | 1 | Übersteht nicht mehr Ausfälle als drei Knoten und kann in zwei Hälften zerfallen |
| 5 | 3 | 2 | Für IT-Landschaften, die zwei Ausfälle überstehen müssen |
Ein Queue-Typ pro Workload, bewusst gewählt
Quorum Queues für alles, was den Verlust eines Knotens überstehen muss: Sie replizieren per Raft, wählen bei Ausfällen neue Leader und unterstützen Delivery Limits und Dead-Lettering. Streams für Fan-out und Replay mit hohem Durchsatz. Classic Queues ausschließlich für transienten, nicht replizierten Traffic. Classic Mirrored Queues sind veraltet und sollten migriert statt optimiert werden.
Speicher, Platte und CPU nach Spitzenlast dimensionieren, nicht nach Durchschnitt
Den Speicherbedarf bestimmt der Backlog: Eine Queue, die normalerweise leer ist, kann während eines Consumer-Ausfalls Millionen von Nachrichten aufnehmen – und genau diesen Fall muss der Knoten überstehen. Den Plattenbedarf bestimmt derselbe Backlog plus die Segmente der Quorum Queues und das Write-Ahead-Log. Die CPU richtet sich nach den Reserven der Erlang-Scheduler bei Spitzenraten für Publish und Consume, auf virtualisierten Hosts mit dedizierten Kernen. Setzen Sie vm_memory_high_watermark und disk_free_limit passend zum realen Host, damit die Alarme auslösen, bevor der Knoten ausfällt, und richten Sie Alerts auf diese Alarme ein.
Festlegen, was bei einer Partition passiert, bevor sie eintritt
cluster_partition_handling steht in Produktion auf pause_minority: Die Minderheitsseite pausiert, die Mehrheit bedient weiter, und nach der Heilung gibt es nichts abzugleichen. Ab RabbitMQ 4.3 gilt das nicht mehr: Mit 4.3.0 wurden Mnesia und damit auch die Strategien für das Partition Handling entfernt. cluster_partition_handling wird in rabbitmq.conf zwar noch akzeptiert, hat aber keine Wirkung, und Metadatenspeicher, Quorum Queues und Streams basieren durchgängig auf Raft – allein die Raft-Mehrheitsregel entscheidet also, welche Seite weiter bedient. Entfernen Sie den Schlüssel beim Upgrade. autoheal lässt beide Seiten Schreibvorgänge annehmen und verwirft dann eine Seite – Datenverlust per Design. ignore ist etwas fürs Labor. In Kombination mit Quorum Queues und einer ungeraden Knotenanzahl wird aus den meisten Partitionsvorfällen ein pausierter Knoten und ein Alarm statt einer Untersuchung von Datenverlust.
Den Cluster auf sein Netzwerk abstimmen
Die Standardwerte setzen ein LAN voraus. Setzen Sie bei Cloud- und WAN-Verbindungen längere Heartbeats, optimieren Sie tcp_listen_options für Keepalive und Puffer und erhöhen Sie den Erlang-Parameter net_ticktime, damit vorübergehende Latenz nicht als Knotenausfall gewertet wird. Synchronisieren Sie die Uhren per NTP. Validieren Sie unter realen Bedingungen: Ein Cluster, der im Labor besteht und in Produktion jede Woche partitioniert, hat meist ein Problem mit net_ticktime.
Policies statt Argumente pro Queue
Queue-Typ, Delivery Limits, Dead Letter Exchanges, TTL, max-length und Overflow-Verhalten gehören in Policies, die per Muster greifen. So erfordert eine Topologieänderung kein erneutes Deployment der Clients, und ein Auditor kann die Absicht an einer Stelle nachlesen. Gezielte Policies statt pauschaler: Eine Policy, die auf jede Queue passt, ist genau der Grund, warum das Mirroring einst aus dem Ruder lief. Verwalten Sie die Policies in der Versionskontrolle, zusammen mit dem Export der Definitionen.
Der Cluster ist nur so stabil wie seine Clients
Langlebige Verbindungen mit gepoolten Channels, begrenzter Prefetch, zeitnahe Acknowledgements, Publisher Confirms für alles, was nicht verloren gehen darf, und automatische Wiederherstellung von Verbindungen. Die meisten Cluster-Symptome – steigende Zahlen unbestätigter Nachrichten, erschöpfte File Descriptors, Speicherverbrauch, der wie ein Leak aussieht – beginnen im Client-Code. Prüfen Sie die Clients als Teil des Cluster-Designs, nicht erst nach dem ersten Vorfall.
Häufig gestellte Fragen
Wie viele Knoten sollte ein RabbitMQ-Cluster haben?
Drei für die meisten Produktionsumgebungen, fünf, wenn zwei gleichzeitige Ausfälle überstanden werden müssen. Immer eine ungerade Anzahl, denn Quorum Queues brauchen eine Mehrheit; zwei Knoten sind schlechter als einer. Die Knoten laufen auf getrennten Hosts und in der Cloud in getrennten Availability Zones.
Sollte ich Quorum Queues oder Classic Queues verwenden?
Quorum Queues für alles, was den Verlust eines Knotens überstehen muss, Streams für Replay und Fan-out mit hohem Durchsatz, Classic Queues nur für transienten Traffic, der verloren gehen darf. Classic Mirrored Queues sind veraltet und sollten migriert werden.
Wie dimensioniere ich einen RabbitMQ-Knoten?
Nach dem Spitzen-Backlog, nicht nach dem durchschnittlichen Durchsatz. Speicher und Platte müssen den größten Backlog aufnehmen, den ein Consumer-Ausfall erzeugen kann, plus die Segmente der Quorum Queues und das Write-Ahead-Log. Die CPU braucht Reserven für die Erlang-Scheduler bei Spitzenraten, bei Virtualisierung auf dedizierten Kernen.
Kann ein RabbitMQ-Cluster über mehrere Availability Zones laufen?
Ja, und das sollte er auch – innerhalb einer Region. Über Regionen hinweg nicht: Die Kommunikation zwischen den Knoten setzt niedrige Latenz voraus, und WAN-Jitter führt zu Partitionen. Betreiben Sie einen Cluster pro Region und verbinden Sie sie per Federation oder Shovel.