Panoramica
Il repeatable streaming in memoria predefinito di Mule funziona bene finché un payload non supera il buffer configurato; a quel punto il comportamento dipende interamente da una strategia di streaming che la maggior parte delle applicazioni non imposta mai. Il problema emerge nelle integrazioni con file e risposte di grandi dimensioni, di solito in produzione e di solito dopo che un partner è cresciuto.
Sfida
Un'integrazione di file con un partner aveva iniziato a fallire quando le dimensioni dei file avevano superato qualche centinaio di megabyte. Il flow usava trasformazioni DataWeave e uno scope For Each sull'intero payload, con il repeatable stream in memoria predefinito, per cui l'intero documento veniva materializzato nell'heap più di una volta. I worker venivano terminati a elaborazione in corso e, al retry, il file del partner veniva rielaborato dall'inizio, aggravando il carico.
Ambiente
Applicazioni Mule su worker CloudHub che elaborano feed di file dei partner e traffico API, integrate con database cloud e servizi interni.
Approccio
AceMQ ha profilato l'heap dei worker durante la riproduzione del file che causava l'errore per confermare dove il payload venisse materializzato, quindi ha rielaborato il flow perché usasse lo streaming invece del buffering. AceMQ non gestisce la piattaforma MuleSoft: questo lavoro riguarda le applicazioni, i flow e la progettazione delle integrazioni del cliente che girano sulla piattaforma.
Soluzione
- Profilato l'heap dei worker durante la riproduzione dell'errore per individuare dove il payload venisse materializzato
- Configurato il repeatable streaming su file store con un dimensionamento del buffer adeguato ai payload di grandi dimensioni
- Rielaborate le trasformazioni DataWeave perché usino lo streaming invece di caricare in memoria l'intero documento
- Sostituita l'iterazione sull'intero payload con l'elaborazione batch e blocchi di record di dimensione limitata
- Retry configurati per riprendere da un checkpoint di record invece di ricominciare l'intero file
- Test di carico con payload ben più grandi del più grande file del partner osservato
Esito
Gli errori di out-of-memory sono cessati e l'integrazione ora elabora file diverse volte più grandi di quello che inizialmente l'aveva mandata in crisi, con lo stesso dimensionamento dei worker.