Panoramica
Il costo di Lambda è dato dalla memoria moltiplicata per la durata, e le due grandezze sono legate: più memoria significa proporzionalmente più CPU, per cui una funzione più grande spesso termina abbastanza in fretta da costare meno. Quasi nessun parco viene dimensionato sulla base di misurazioni: le funzioni ereditano qualunque valore abbia digitato il primo sviluppatore, e il parco si cristallizza attorno a quella scelta.
Sfida
La fattura Lambda era diventata una voce di costo rilevante senza un corrispondente aumento del traffico. Il campionamento mostrava funzioni configurate con molta memoria che ne usavano una piccola frazione, funzioni CPU-bound soffocate da impostazioni di memoria basse e in esecuzione molto più a lungo del necessario, funzioni inattive in attesa di chiamate sincrone a valle ma fatturate per l'attesa, e un insieme di funzioni pianificate eseguite di frequente senza fare nulla nella maggior parte delle invocazioni.
Ambiente
Un ampio parco AWS Lambda che comprende workload esposti tramite API, event-driven e pianificati. AceMQ fornisce consulenza sulla configurazione delle funzioni e sull'architettura del cliente; la piattaforma è gestita da AWS.
Approccio
AceMQ ha estratto dalle metriche della piattaforma le distribuzioni di utilizzo della memoria e di durata per ogni funzione e ha eseguito sweep controllati sulle impostazioni di memoria per le funzioni con la spesa più alta, così da trovare il reale minimo di costo di ciascuna, invece di presumere che meno memoria sia sempre più economica. Gli sprechi a livello di architettura sono stati riportati separatamente da quelli di configurazione, perché si correggono in modo diverso.
Soluzione
- Costruito un modello di costo per funzione a partire dalle distribuzioni misurate di utilizzo della memoria e di durata
- Eseguiti sweep della memoria sulle funzioni con la spesa più alta per individuare il vero minimo di costo di ciascuna
- Individuate le funzioni CPU-bound in cui aumentare la memoria riduce il costo totale
- Segnalate come candidate a una riprogettazione asincrona le funzioni fatturate mentre restano bloccate su chiamate sincrone a valle
- Sostituite le pianificazioni di polling ad alta frequenza con trigger event-driven dove la sorgente lo consente
- Fornito un elenco di modifiche ordinato per priorità, con il risparmio atteso e il rischio di ciascuna
Esito
Il right-sizing delle funzioni con la spesa più alta ha ridotto in modo significativo la spesa per Lambda senza alcun peggioramento della latenza, e diverse funzioni CPU-bound sono diventate al tempo stesso più economiche e più veloci una volta aumentata la memoria.