Torna a tutti i casi d'uso

RemediationTrasversale

Il payload è cresciuto e il worker è crollato insieme a lui

Gruppo di distribuzione all'ingrosso

Risoluzione degli errori di out-of-memory in un'applicazione Mule che caricava in buffer interi payload da diverse centinaia di megabyte perché non era configurata alcuna strategia di repeatable streaming.

Panoramica

Il repeatable streaming in memoria predefinito di Mule funziona bene finché un payload non supera il buffer configurato; a quel punto il comportamento dipende interamente da una strategia di streaming che la maggior parte delle applicazioni non imposta mai. Il problema emerge nelle integrazioni con file e risposte di grandi dimensioni, di solito in produzione e di solito dopo che un partner è cresciuto.

Sfida

Un'integrazione di file con un partner aveva iniziato a fallire quando le dimensioni dei file avevano superato qualche centinaio di megabyte. Il flow usava trasformazioni DataWeave e uno scope For Each sull'intero payload, con il repeatable stream in memoria predefinito, per cui l'intero documento veniva materializzato nell'heap più di una volta. I worker venivano terminati a elaborazione in corso e, al retry, il file del partner veniva rielaborato dall'inizio, aggravando il carico.

Ambiente

Applicazioni Mule su worker CloudHub che elaborano feed di file dei partner e traffico API, integrate con database cloud e servizi interni.

Approccio

AceMQ ha profilato l'heap dei worker durante la riproduzione del file che causava l'errore per confermare dove il payload venisse materializzato, quindi ha rielaborato il flow perché usasse lo streaming invece del buffering. AceMQ non gestisce la piattaforma MuleSoft: questo lavoro riguarda le applicazioni, i flow e la progettazione delle integrazioni del cliente che girano sulla piattaforma.

Soluzione

  1. Profilato l'heap dei worker durante la riproduzione dell'errore per individuare dove il payload venisse materializzato
  2. Configurato il repeatable streaming su file store con un dimensionamento del buffer adeguato ai payload di grandi dimensioni
  3. Rielaborate le trasformazioni DataWeave perché usino lo streaming invece di caricare in memoria l'intero documento
  4. Sostituita l'iterazione sull'intero payload con l'elaborazione batch e blocchi di record di dimensione limitata
  5. Retry configurati per riprendere da un checkpoint di record invece di ricominciare l'intero file
  6. Test di carico con payload ben più grandi del più grande file del partner osservato

Esito

Gli errori di out-of-memory sono cessati e l'integrazione ora elabora file diverse volte più grandi di quello che inizialmente l'aveva mandata in crisi, con lo stesso dimensionamento dei worker.

Tecnologie

MuleSoftKubernetesDockerPostgreSQL

Avete un problema di produzione su MuleSoft?

Gli ingegneri MuleSoft senior di AceMQ hanno già gestito proprio questo tipo di progetto. Che vi servano indicazioni architetturali, remediation operativa o una partnership gestita continuativa, siamo pronti ad aiutarvi.