On this page
現在の負荷に合わせてサイジングしたRabbitMQアーキテクチャが、5〜10倍の成長に耐えられることはまれです。クラスタートポロジー、クォーラムキューのレプリケーション、マルチリージョンのメッセージングは、いずれも規模が拡大したとき、場当たり的なインシデント対応のときとは異なる形で破綻します。現状のアセスメント、目標とするアーキテクチャの設計、段階的なロールアウト計画を通じて将来の負荷に備えておけば、2年後に緊急事態として浮上する再設計プロジェクトを避けられます。
ほとんどのチームは、この作業を一度も行いません。既存のクラスターにインシデントのたびにパッチを当て続け、やがて成長がトポロジーの限界を超え、誰かがプレッシャーの中で再設計を迫られます。以下は、それに代わる計画的な将来像の設計プロセスです。
RabbitMQの「将来像」アーキテクチャとは、実際には何を意味するのか
現在の負荷に合わせて設計し、アーキテクチャがそのまま持ちこたえることを期待するのではなく、現在の5〜10倍の規模で想定される負荷、ノード数、連携の範囲に合わせて、クラスタートポロジー、キューの種類、リージョン間のメッセージングを設計し、そこから逆算して移行経路を描くことです。
この違いが重要なのは、RabbitMQの性能が線形には劣化しないからです。現在のバインディング数、Federationリンクの数、コンシューマーへのファンアウトを余裕でこなしているクラスターでも、10倍に達するずっと前に限界にぶつかることがあります。エクスチェンジのバインディング、クォーラムキューのレプリケーション、Federationの再同期時間は、いずれも規模に比例するのではなく、規模とともに複利的に増えるオーバーヘッドを伴うからです。
場当たり的なパッチではなく、将来像の設計をどう進めるか
現状のアセスメント、目標とするアーキテクチャの設計、移行計画という3つのフェーズを、この順序で進めます。アセスメントを飛ばしていきなり目標の設計に入るのが、最もよくある失敗のパターンです。すでに本番環境にあるクライアントライブラリ、アプリケーションチーム、運用上の制約を無視した理想的なアーキテクチャを設計してしまい、その設計はレビューの段階でいつまでも止まったままになります。
SCADAと連携したパイプライン監視でRabbitMQを運用する、エネルギー業界の大手事業者向けに最近実施した将来像の設計案件では、アーキテクチャの案を1つではなく2つ並行して作成しました。制約がないことを前提にしたグリーンフィールドの設計と、その理想を、案件の期間内にアプリケーションチームが現実的に変更できる範囲とすり合わせた、制約付きの設計です。両者の相違点ごとに、その根拠を文書化しました。クライアントライブラリのアップグレードを押し通す価値があった理由と、チームが妥協を受け入れた箇所です。これが、どちらか一方の案だけの場合よりも、関係者の合意を得るうえではるかに効果的でした。
もう1つ効果があった変更は、完成したアーキテクチャを最後に納品するのではなく、短いチェックポイントを繰り返して設計をレビューしたことです。4週間の設計フェーズで第4週になって初めてフィードバックが出てくるようでは、方向性が誤っていた場合に3週間が無駄になります。
スケールする前に正しく押さえておくべき、RabbitMQの構成要素とは
将来像の設計は、クラスターとノードだけの作業ではありません。いま選ぶエクスチェンジの種類、ルーティングキー、仮想ホスト、デッドレターキューによって、次の5〜10倍への成長でどれだけの手戻りが発生するかが決まります。安定したルーティングキーを使うダイレクトエクスチェンジは、予測どおりにスケールします。ワイルドカードのルーティングキーを使うトピックエクスチェンジは、いまは柔軟性をもたらしますが、後にバインディングの肥大化を引き起こすのはまさにこれです。数十の連携を支える要になる前に、改めて見直す価値があります。ファンアウトエクスチェンジは、ルーティングキーの評価をまったく行わないからこそ、シンプルで大規模でも安定しています。選択的なルーティングが実際には不要なブロードキャストのパターンでは、これを標準にする価値があります。
仮想ホストは、手に入る中で最も安価な分離手段です。1つの分散システムの中で環境、テナント、事業部門をvhostで分けておけば、後にアクセス制御のためだけに別々のクラスターへ分割せずに済みます。そして、デッドレターキューはボリュームが増えた時点でもはや任意ではなくなります。将来像の設計では、ポイズンメッセージの処理と配信回数の上限をキューごとに最初から定義しておくべきです。最初の再キューイングの嵐が、それ以外は健全だったメッセージブローカーを停止させてから後付けするのでは遅すぎます。どれも特殊な話ではありません。高可用性とイベント駆動アーキテクチャの基本を、偶然ではなく意図的に適用するということです。
5〜10倍の規模で重要になるクラスタートポロジーの判断とは
ボリュームが増えると、3つの判断が不釣り合いに大きな影響を持つようになります。ノードの数と配置、エクスチェンジとバインディングの設計、そして1つのクラスターにどこまで依存するか、それともワークロードを分割するかです。ノード数は単なるスループットを上げる手段ではありません。クォーラムキューのレプリケーションとRaftによる合意形成のオーバーヘッドは、いずれもクラスターの規模に応じて増えます。そのため、3ノードで良好に動くトポロジーが、9ノードにすれば単純に速くなるわけではなく、挙動そのものが変わります。
チームが最も一貫して軽視しがちなのが、バインディングの設計です。数千のバインディングでは問題なく動くトピックエクスチェンジのパターンも、バインディング数が数万に増えると深刻なリスクになり得ます。RabbitMQがそれを保持できないからではありません。ノード喪失やFederationの再同期の後にルーティング状態を再構築する処理が、バインディング数の増加に伴って大幅に遅くなるからです。通常は約15分で再同期していたFederationリンクが、インシデント中には、バインディングの量だけが原因で再構築に1時間以上かかった例を当社は見てきました。しかもSCADAと連携したシステムでは、コンシューマーに10分間新しいデータが届かないと、パイプラインの強制停止が発動します。将来像の設計では、こうした障害モードを、起きた後ではなく起きる前に織り込んでおく必要があります。
将来の成長に合わせてクォーラムキューをどうサイジングするか
レプリケーションファクターは、いま運用しているノード数ではなく、設計の目標とするノード数に合わせて決めます。レプリケーションファクター3が標準で、ほとんどのワークロードでうまく機能します。重要なキューでは5が妥当な場合もありますが、レプリカが1つ増えるごとにグループ全体でRaftの合意形成のオーバーヘッドが増えるため、「念のため」に過大なサイズにすると、スループットに実際のコストがかかります。
将来の規模で本当に重要なサイジングの問いは、レプリケーションファクター単体ではありません。レプリケーションファクターと、キューごとの想定コンシューマー数およびメッセージレートの組み合わせです。現在のコンシューマーへのファンアウトでは問題なく動くキュー設計も、同じクォーラムキューを奪い合うコンシューマーの数が5倍になると、合意形成のレイテンシの問題に直面することがあります。負荷試験は、移行後ではなく、トポロジーを確定する前に目標ボリュームで実施してください。
| 設計上の入力値 | 現在に合わせたサイジング | 将来像に合わせたサイジング |
|---|---|---|
| レプリケーションファクター | 現在のノード数に合わせる | 5〜10倍の規模での目標ノード数に合わせる |
| エクスチェンジごとのバインディング数 | 現在のルーティングパターン | 想定される連携数に基づき、負荷試験で検証 |
| Federationの再同期時間 | インシデントで否応なく直面するまで未検証 | 想定されるバインディング量でベンチマーク済み |
マルチリージョンのメッセージングで、FederationとShovelをどう使い分けるか
継続的なマルチリージョン配信では、Federationが標準です。エクスチェンジやキューをリージョン間で緩やかに同期させ、リンクが切れても自動で再接続し、送信元と送信先のトポロジーが完全に一致している必要もありません。Shovelは、よりシンプルなポイントツーポイントの仕組みです。定義された送信元から定義された送信先へメッセージを転送するもので、一度きりの移行、中継パターン、あるいは長期的にはFederationを運用しない環境同士の橋渡しに適しています。
マルチリージョン設計で当社が最もよく目にする誤りは、Federationを配信の仕組みではなく、スケーリングの仕組みとして扱うことです。Federationはリージョンの負荷を減らすのではなく、複製します。バインディングの肥大化やコンシューマーへのファンアウトが実際のボトルネックであれば、より多くのリージョンにFederationリンクを追加しても、問題は解決するどころか倍増します。通常はこの段階で、リージョン内部で大量のイベントログ用に使うストリームが、リージョン境界のFederationを置き換えるものではなく、それを補完するより良い選択肢になります。
| Federation | Shovel | |
|---|---|---|
| 最適な用途 | 継続的なマルチリージョン配信 | 一度きりの移行や単純な中継 |
| 再接続 | 自動 | 設定可能だが、デフォルトでは自動性が低い |
| トポロジーとの適合 | 送信元と送信先の構成が異なってもよい | 送信元から送信先への固定された経路 |
RabbitMQはリージョン障害に耐えられるか
まず正直にお答えすると、単一のクラスターでは耐えられません。HA、ディザスタリカバリ、クラスターのサイジングで解説しているとおり、標準のRabbitMQクラスタリングは同一データセンター内の低レイテンシを前提としています。クラスターのRaftの合意形成をリージョンをまたいで引き伸ばすと、あらゆる書き込みが実際のネットワークレイテンシを負担することになり、誤検知によるネットワーク分断はまれなエッジケースではなく、毎週のように起こるものになります。リージョン障害には、クラスターがそのまま生き残ること以外の手段で対処しなければなりません。つまり、4つのパターンから1つを選び、それぞれが整合性の面で払う代償を受け入れることになります。
- Federation。リージョン間の非同期かつ結果整合性のレプリケーションです。各リージョンは自らのローカルキューで独立して稼働を続けます。別のリージョンへのリンクが切れた場合、メッセージはキューに溜まり、再接続後に転送されます。リージョン障害の場合は、生き残ったリージョンが障害の起きたリージョンのキューを丸ごと引き継ぐのではなく、自らのローカルトラフィックの処理を続けるという形になります。4つの中で運用のオーバーヘッドが最も小さく、恒常的なマルチリージョン配信として上で解説したものと同じです。DRの場合も仕組みは同じで、設計上常時動いているのではなく、障害をきっかけに機能するという点だけが異なります。
- Shovel。同じく非同期の考え方ですが、ポイントツーポイントで、挙動を把握しやすいのが特徴です。継続的な双方向の同期よりも、定義済みの復旧フローに向いています。2つのリージョンを恒久的な同期関係で運用するのではなく、スクリプト化したフェイルオーバーの一環として、障害の起きたリージョンに残ったバックログを生き残ったリージョンへ流し込む使い方です。
- Tanzu RabbitMQのウォームスタンバイレプリケーション。商用の選択肢で、ウォームスキーマレプリケーションと呼ばれることもあります。スキーマ全体、キュー、バインディング、エクスチェンジ、ユーザー、権限に加え、処理中のメッセージまでを、セカンダリサイトにほぼリアルタイムで非同期に複製します。セカンダリは最小限の復旧作業でプライマリに昇格でき、昇格はどちらの方向にも行えます。4つの中で最も厳しいRPOを実現し、遅延は分単位ではなく秒単位です。ライセンスが必要な機能であり、プライマリとDRを合わせた構成でのコストについてはRabbitMQのライセンスをご覧ください。
- 永続ストアからのアプリケーションレベルのリプレイ。通常どおりパブリッシュするのに加えて、ペイロード(または処理を再構築できるだけの情報)を、オブジェクトストアやアウトボックステーブルなど、RabbitMQの外部にある永続ストアに書き込んでおきます。リージョン障害時には、そのストアから生き残ったリージョンへリプレイします。4つの中で復旧が最も遅く、正しく構築してテストするためのエンジニアリングの労力も最も大きくなります。しかし、RabbitMQ固有のDRツールを必要とせず、キューの種類を問わず機能します。他の3つの選択肢ではうまくカバーしきれないクラシックキューやストリームも対象になります。
どれを選ぶかは、好みではなくRPOとRTOで決まります。事業として処理中のデータを数秒以上失うことが本当に許されないなら、4つの中でそのために作られているのはウォームスタンバイレプリケーションだけです。数分の遅延が許容でき、チームがすでに配信のためにFederationを運用しているなら、同じパターンをフェイルオーバーにも広げるコストはわずかです。フェイルオーバーがまれで、恒久的なレプリケーション関係よりもスクリプト化したポイントツーポイントのフローのほうが保守しやすいなら、Shovelが適しています。そして商用ライセンスの予算がなく、チームが独自のリプレイロジックを担えるなら、アプリケーションレベルのリプレイが機能します。ただし、それが必要になるリージョンが停止する前に、誰かが実際にリプレイ経路をテストしておくことが条件です。
どのパターンを選んでも、リージョンのフェイルオーバーのランブックでは、インシデントの最中にその場で答えを迫られる前に、5つのことを書面で定めておく必要があります。1つ目は、リージョンの停止を宣言する発動基準と、その宣言の権限を持つ人です。一時的な瞬断で、不要なフェイルオーバーが始まらないようにするためです。2つ目は、昇格の正確な手順です。ウォームスタンバイの切り替えコマンドの実行、Federationリンクの方向の反転、あるいはリプレイジョブの起動などです。3つ目は、クライアント接続のリダイレクト方法(DNSの変更、接続文字列の変更、またはその両方)と、障害の起きたリージョンにある既存の接続が再接続できない場合にどう振る舞うべきかです。4つ目は、障害の起きたリージョンが復帰したときの整合計画です。同じ処理を二重に実行したり、どちらも自分がプライマリだと認識している2つのリージョンの間でスプリットブレインを再発させたりしないようにするためです。5つ目は検証の手順です。キューの深さ、コンシューマーラグ、できれば合成トランザクションによって、インシデントの解決を宣言する前に、フェイルオーバーが実際に成功したことを確認します。Boomiを用いたリプレイ方式のディザスタリカバリの事例では、特にアプリケーションレベルのリプレイのパターンを使うチームにとって、このランブックが実際にどのようなものになるかを紹介しています。
1つのクラスターを拡張するのではなく、複数の論理クラスターに分割すべきなのはどんなときか
ワークロードごとに可用性の要件が本当に異なる場合、負荷が大きいテナントやバインディング数の多いテナントが、重要なテナントと共有するFederationリンクを劣化させかねない場合、あるいはデータレジデンシーや規制の境界によって分離が明確に求められる場合には分割します。前述のSCADAと連携した事例では、分離すべき理由は具体的でした。バインディングの多い連携ワークロードが、人命の安全に関わるパイプライン監視とクラスターを共有していたため、一方のチームのルーティングの肥大化が、もう一方のチームが強制停止を避けるために頼りにしているFederationの再同期を遅らせかねなかったのです。
そうした非対称性がないなら、1つのクラスターのままにします。論理クラスターが1つ増えるごとに、監視すべきトポロジーが1つ、保守すべきFederationリンクの組が1つ増え、環境間で設定のドリフトが起こり得る箇所も1つ増えます。分離すべき本当の理由がないうちに早まって分割したチームは、たいてい分割によって削減できた以上の運用オーバーヘッドを抱えることになります。
移行とロールアウトの計画はどのようなものになるか
ロールアウト計画では、本番トラフィックが一度きりの切り替えに左右されないよう、変更の順序を定めます。通常は、新しいトポロジーを既存のものと並行して構築し、キュー単位またはコンシューマーグループ単位で段階的にトラフィックを移し、新しい設計がピークを一巡するまでロールバックの経路を維持しておきます。クォーラムキューへの変換、バインディングの再設計、Federationリンクの変更は、同時に適用するのではなく、それぞれ独立したフェーズとして実施します。
最も見落とされがちな順序の判断は、手軽さではなくリスクで順番を決めることです。チームは進捗を示せるからと、最も簡単なワークロードから移行しがちです。しかし将来像の設計では、新しいトポロジーで最もリスクの高い前提を実際に検証できるのはどのワークロードかを特定し、それが誤っていた場合でも軌道修正できるよう、早い段階で移行すべきです。
いまの姿ではなく、向かう先に合わせて設計する
ほとんどのRabbitMQアーキテクチャは、現時点では間違っていません。間違っているのは18か月後に対してであり、それに気づくための話し合いを誰も予定に入れていないのです。将来像の設計は、その話し合いを障害の最中ではなく、計画的に行うための取り組みです。
成長、合併、マルチリージョンへの拡張を計画していて、着手する前に文書化された目標アーキテクチャとロールアウト計画を手に入れたいとお考えなら、当社のRabbitMQアーキテクチャチームが、これを体系的な案件として実施します。現状のアセスメント、根拠を文書化した目標アーキテクチャの設計、そしてリスクに基づいて順序を定めた段階的な移行計画です。お客様の環境に合わせた範囲の設定については、RabbitMQアーキテクトにご相談ください。
よくある質問
RabbitMQの「将来像」アーキテクチャ設計とは何ですか?
現状のアセスメント、目標とするアーキテクチャの設計、移行計画という順序で進める体系的な計画プロセスです。現在の規模だけでなく、事業が向かう先に合わせてRabbitMQをサイジングします。場当たり的なパッチの代わりに、トポロジー、キュー、マルチリージョンの計画を文書化し、チームがインシデントの最中ではなく、四半期単位で着実に実行できるようにします。
自社のRabbitMQアーキテクチャが5〜10倍の成長に耐えられるかどうかは、どう判断すればよいですか?
規模が大きくなると非線形に破綻する3つの要素をモデル化します。エクスチェンジごとのバインディング数、ノード喪失後のFederationリンクの再構築時間、そしてキューのレプリケーションのオーバーヘッドです。すでにバインディング数が数万に達していたり、現時点でFederationの再同期に数分かかっていたりするなら、その曲線はボリュームが増えるほど良くなるどころか悪化します。
マルチリージョン構成では、RabbitMQのFederationとShovelは何が違いますか?
Federationは、エクスチェンジやキューをリージョン間で緩やかに同期させ、切断時には自動で再接続します。継続的なマルチリージョンのレプリケーションでは、これが標準の選択肢です。Shovelは、固定された送信元と送信先の間でメッセージをポイントツーポイントで転送する仕組みで、恒常的なマルチリージョンのトポロジーよりも、一度きりの移行や単純な中継パターンに適しています。
現在の負荷だけでなく、将来の成長に合わせてクォーラムキューをサイジングするにはどうすればよいですか?
レプリケーションファクター(通常は3、重要なキューでは5の場合もあります)は、現在のノード数ではなく目標とするノード数に合わせて決めます。そして、トポロジーを確定する前に、想定ボリュームでのバインディング数とコンシューマー数を負荷試験で確認します。クォーラムキューのレプリケーションのオーバーヘッドはクラスターの規模に応じて増えるため、3ノードで機能する設計が9ノードでは異なる挙動を示すことがあります。
RabbitMQを1つのクラスターのまま拡張するのではなく、複数の論理クラスターに分割すべきなのはどんなときですか?
ワークロードごとに可用性の要件が大きく異なる場合、負荷の大きい1つのテナントが別のテナントのFederationリンクを劣化させかねない場合、あるいは規制やデータレジデンシーの境界によって分離が求められる場合には分割します。複数のクラスターを運用するオーバーヘッドが分離のメリットを上回るなら、1つのクラスターのままにします。ほとんどのチームは、このオーバーヘッドを過小評価しています。
RabbitMQの将来像を設計する案件には、通常どのくらいの期間がかかりますか?
現状のアセスメントから、文書化された目標アーキテクチャとロールアウト計画までの集中的な設計フェーズは、通常3〜6週間です。制約について意見を出す必要がある下流のチームやアプリケーションの数によって変わります。実装と移行は、その後に別の、より長いフェーズとして続きます。
ストリームベースのマルチリージョン設計に移行するには、Federationを撤去する必要がありますか?
いいえ。ストリームとFederationは異なる課題を解決するもので、共存できます。ストリームはリージョン内の大量かつ再生可能なイベントログに、Federationはリージョン間の配信に使います。将来像の設計の多くは、リージョンの境界ではFederationを維持し、バインディングの肥大化が実際のボトルネックになっている箇所で、リージョン内部にストリームを導入します。
RabbitMQの将来像の設計では、どのような成果物が得られますか?
現在のトポロジーとその限界点を文書化した現状のアセスメント、主要な判断ごとに根拠を文書化した目標アーキテクチャ、そして本番トラフィックが一度きりの一斉切り替えで止まることがないよう変更の順序を定めた、段階的な移行計画です。
RabbitMQはリージョン障害に耐えられますか?
リージョンをまたいで引き伸ばした単一のクラスターでは耐えられません。標準のRabbitMQクラスタリングは、同一データセンター内の低レイテンシを前提としており、リージョン間リンクの遅延にはうまく対応できません。リージョン障害に耐えるには、独立した2つのリージョンのクラスターの間で、Federation、Shovel、Tanzu RabbitMQのウォームスタンバイレプリケーション、あるいは永続ストアからのアプリケーションレベルのリプレイのいずれかを運用する必要があります。どれを選ぶかは、事業が許容できるデータ損失と復旧時間によって決まります。ウォームスタンバイレプリケーションは最も厳しい復旧時点を実現しますが、ライセンスが必要な商用機能です。残りの3つは、保証がより緩やかなオープンソースのパターンです。
RabbitMQのFederationはディザスタリカバリに使えますか?
はい。復旧時点が秒単位ではなく分単位の、結果整合性で許容できるチームであれば使えます。Federationはリージョン間で非同期にレプリケーションを行い、リンクが切れても自動で再接続するため、障害中も生き残ったリージョンは自らのトラフィックで稼働を続けます。最も厳しいRPOを実現するのはTanzu RabbitMQのウォームスタンバイレプリケーションであり、Federationはそこまでではありません。しかし、すでに恒常的なマルチリージョン配信にFederationを使っているチームなら、わずかな追加コストでDRにも拡張できます。
Talk to an engineer
Need a hand with RabbitMQ?
Senior engineers who run it in production. Get a quote or a free consultation, no sales pitch.
ガイド・製品比較・調査レポート

