概要
ある物流企業では、Snowflakeの支出がデータ量やユーザー数を上回るペースで増えており、財務部門は次の利用コミットメントを承認する前に説明を求めていました。AceMQは、各ウェアハウスが実際に行っている処理と照らして消費を分析しました。
課題
増加の大部分は、実際の需要ではなく構造上の選択に起因していました。ウェアハウスは個々の遅いクエリを解決するためにサイズを上げられたまま、一度も元に戻されていませんでした。自動サスペンドの設定値が大きすぎたため、ウェアハウスは課金されたまま長時間アイドル状態になっていました。複数のチームがウェアハウスを共有していたため、競合によってさらにサイズが引き上げられ、特に誰の役にも立っていませんでした。
環境
AWS上のSnowflake。複数のチームのビジネスインテリジェンス、dbtの変換処理、アドホックな分析に対応。
アプローチ
AceMQは、ウェアハウス、ワークロード、クエリパターンの単位まで消費を分解できる仕組みを構築し、平均値ではなく根拠に基づいて判断できるようにしました。そのうえで、ワークロードごとに実測したプロファイルに基づいてサイズを設定し、自動サスペンドはデフォルト値ではなく、アイドル時の課金とキャッシュを温かく保つことのトレードオフに基づいてチューニングしました。
ソリューション
- ウェアハウス、ワークロード、チーム、クエリパターンごとに、クレジット消費を分解して把握する仕組みを構築
- 各ウェアハウスを、そこで実行された最悪のクエリではなく、実測したクエリのプロファイルに基づいて適正なサイズに
- アイドル時の課金と結果キャッシュを温かく保つことの実際のトレードオフに基づき、ウェアハウスごとに自動サスペンドをチューニング
- 競合するワークロードを専用のウェアハウスに分離し、サイジングの判断が妥協の産物にならないように
- クエリのサイズではなく同時実行数が実際の制約になっている箇所に限り、マルチクラスターのスケーリングを適用
- リソースモニターとチームごとのガードレールを設定し、しきい値に達する前にアラートを発報
結果
どのワークロードのクエリパフォーマンスも損なうことなくクレジット消費は大きく減少し、データ量に対する増加曲線も緩やかになりました。財務部門はチームごとの内訳を把握できるようになり、コストに関する議論は、単一の合計額ではなく具体的なワークロードを基に行われるようになりました。