概要
Lambdaのコストはメモリと実行時間の積で決まり、両者は連動しています。メモリを増やすとそれに比例してCPUも増えるため、メモリの大きい関数のほうが速く終わり、結果的に安くなることがよくあります。それでも、計測に基づいてサイジングされている環境はほとんどありません。関数は最初の開発者が入力した値をそのまま引き継ぎ、環境はその状態のまま固まっていきます。
課題
Lambdaの請求額は、トラフィックが増えたわけでもないのに、無視できない費目にまで膨らんでいました。サンプリングの結果、大きなメモリを割り当てられながらそのごく一部しか使っていない関数、メモリ設定が低すぎてCPUが不足し必要以上に長く実行されているCPUバウンドの関数、下流の同期呼び出しを待つ間もその待ち時間に課金されている関数、そして高頻度で実行されながらInvocationの大半で何もしていないスケジュール実行の関数群が見つかりました。
環境
APIのバックエンド、イベント駆動、スケジュール実行のワークロードにまたがる大規模なAWS Lambda環境。AceMQはお客様の関数設定とアーキテクチャについて助言し、プラットフォームの運用はAWSが担います。
アプローチ
AceMQは、プラットフォームのメトリクスから関数ごとのメモリ使用率と実行時間の分布を取得し、支出の大きい関数についてはメモリ設定を変えながら制御された比較試験を行い、「メモリが少ないほど常に安い」と決めつけずに、それぞれの関数の実際のコストの最小点を探しました。アーキテクチャに起因する無駄は、設定に起因する無駄とは修正方法が異なるため、別に報告しました。
ソリューション
- 実測したメモリ使用率と実行時間の分布から、関数ごとのコストモデルを構築
- 支出の大きい関数でメモリ設定を段階的に変えて試験し、それぞれの本当のコスト最小点を特定
- メモリを増やすことで総コストが下がるCPUバウンドの関数を特定
- 下流の同期呼び出しでブロックされている間も課金されている関数を、非同期化による再設計の候補として洗い出し
- ソースが対応している箇所では、高頻度のポーリングのスケジュールをイベント駆動のトリガーに置き換え
- 想定される削減額とリスクをそれぞれ明記した、順位付きの変更リストを提供
結果
支出の大きい関数を適正なサイズに見直したことで、レイテンシーを一切悪化させることなくLambdaの支出は大きく削減され、CPUバウンドの関数のいくつかはメモリを増やしたことで安く、しかも速くなりました。