概要
Azure Functionsのコストは、主にホスティングプランとスケーリングの設定で決まります。従量課金(Consumption)、Elastic Premium、専用(Dedicated)の各プランはコスト曲線が大きく異なり、すべてを1つのプランで運用している環境は、たいてい一部のワークロードで払いすぎている一方、別のワークロードではコールドスタートに悩まされています。
課題
すべてが単一のPremiumプランで稼働していました。このプランは何年も前に、レイテンシーに敏感な1つのAPIのコールドスタート問題を解決するために選ばれたものでした。環境の大部分は低頻度のバッチ処理で、従量課金プランであればはるかに安く済むはずでした。さらに、常時稼働インスタンス数と最大バースト上限は一度もチューニングされておらず、プランは月に数回しか発生しないピークに合わせてサイジングされていました。
環境
HTTPトリガーのAPI、キューのコンシューマー、スケジュール実行のバッチジョブにまたがるAzure Functions。共有のPremiumプラン上で稼働。AceMQはお客様のプラン選択、設定、アーキテクチャについて助言し、プラットフォームの運用はMicrosoftが担います。
アプローチ
AceMQは、各関数アプリのInvocationのパターン、実行時間、レイテンシーへの感度をプロファイリングし、ワークロードの種類ごとに各プランのコストをモデル化しました。コールドスタートの許容度は、想定ではなく実際のレイテンシー要件に照らして計測しました。たいていの場合、コスト削減の余地はここにあります。
ソリューション
- 関数アプリごとに、Invocationのパターン、実行時間の分布、レイテンシーへの感度をプロファイリング
- ワークロードの種類ごとに、従量課金、Elastic Premium、専用の各プランのコストをモデル化
- 環境全体を単一のプランにするのではなく、アプリごとに最適なプランへの配置を推奨
- 常時稼働インスタンス数と最大バースト上限を、最悪ケースへの不安ではなく実測したピークに基づいてチューニング
- コールドスタートが本当に問題になる関数と、問題にならないことが実証できる関数を特定
- 移行ごとに想定される削減額とレイテンシーのリスクを示した移行手順を提供
結果
バッチ処理と低頻度のワークロードをPremiumプランから移したことでホスティングコストは大幅に削減され、レイテンシーに敏感なAPIはウォームインスタンスを維持しています。プランの選択は現在、根拠を明示したうえでワークロードごとに判断しています。