導入事例の一覧に戻る

コンサルティング金融サービス・決済

デプロイできない理由になる前に、ステートのレイヤーを設計する

オンライン不正検知プラットフォーム

数時間のダウンタイムなしで再起動しなければならない大規模ステートのFlinkジョブを対象に、ステートバックエンド、キーのパーティショニング、再スケーリングの戦略を設計しました。

概要

数百ギガバイトのキー付きステートを保持するFlinkジョブには、小さなジョブにはない運用上の制約があります。再起動には相応の時間がかかり、並列度を変えるにはセーブポイントの再配分が必要になり、キーの選び方を誤ると一部のTaskManagerにステートが集中します。AceMQは、ジョブが成長してもこうした制約を管理可能な範囲に保てるよう、ステートのレイヤーを設計します。

課題

大規模ステートのジョブは、いつの間にかデプロイできなくなっていきます。セーブポイントの取得に時間がかかるため、通常のデプロイにもメンテナンス時間が必要になり、デプロイがまとめて行われるようになって、1回ごとのリスクが大きくなります。最大並列度がデフォルトのままだったため、ステートを丸ごと再構築しない限り、一定の上限を超えて再スケーリングできません。キーに偏りがあるためキーグループの分布が不均一で、2台のTaskManagerが処理の大半を担っていました。ローカルディスクは、現在のステートではなく初期のステートに合わせてサイジングされていました。

環境

Kubernetes上のApache Flink。RocksDBのステートバックエンド、大規模なキー付きステート、オブジェクトストレージ上のチェックポイントまたはセーブポイントを使用しています。

アプローチ

AceMQは、キーグループとTaskManagerごとにステートのサイズと分布をプロファイリングし、再起動時間の許容範囲、想定される並列度の範囲、アップグレードの頻度といった運用上の要件を軸に設計します。最大並列度とキーグループ数は現在の規模ではなくジョブの想定稼働期間に合わせて設定し、リカバリーの手順は推測ではなく実際にテストします。

ソリューション

  1. オペレーターとTaskManagerごとにステートのサイズとキーグループの分布をプロファイリングし、パーティションの偏りを明らかに
  2. 最大並列度とキーグループのサイズを、立ち上げ時の規模ではなく、ジョブの想定されるスケーリングの範囲に合わせて設定
  3. マネージドメモリ、ブロックキャッシュ、書き込みバッファ、コンパクション方式、カラムファミリーの構成を含むRocksDBの設定
  4. RocksDBのワーキングセットとチェックポイントのステージングに向けた、ローカルストレージのサイジングとディスククラスの選定
  5. 計測に基づく再起動時間の許容範囲を定めた、セーブポイント、保持チェックポイント、ローカルリカバリーの戦略
  6. ステートスキーマの進化の手順を含め、リハーサルで検証した再スケーリングとアップグレードのランブック

結果

再起動と再スケーリングにかかる時間が予測可能で一定の範囲に収まるようになり、デプロイにメンテナンス時間は不要になりました。ステートがTaskManager間で均等に分散されたことで、スループットを制限していたホットノードの現象も解消されています。

使用テクノロジー

Apache FlinkRocksDBApache KafkaKubernetes

Apache Flinkのアーキテクチャについてアドバイスが必要ですか?

AceMQのシニアApache Flinkエンジニアは、まさにこのタイプの案件に対応した実績があります。アーキテクチャのアドバイス、実践的な問題解決、継続的なマネージドパートナーシップなど、どのようなご要望にもお応えします。