概覽
Mule 預設的記憶體內可重複串流平常運作良好,但只要酬載超過設定的緩衝區大小,後續行為就完全取決於串流策略,而多數應用程式從來沒有設定過。這個問題通常出現在大型檔案與大型回應的整合上,而且往往發生在正式環境、在合作夥伴業務成長之後。
挑戰
一項合作夥伴檔案整合在檔案大小超過數百 MB 後開始失敗。該流程使用 DataWeave 轉換,並以 For Each 範圍逐一處理完整酬載,搭配預設的記憶體內可重複串流,導致整份文件在 heap 中被完整建立不只一次。worker 在處理途中被強制終止,重試時合作夥伴檔案又從頭重新處理,使負載雪上加霜。
環境
在 CloudHub worker 上執行的 Mule 應用程式,處理合作夥伴檔案資料流與 API 流量,並與雲端資料庫及內部服務整合。
做法
AceMQ 在重現失敗檔案的過程中剖析 worker heap,確認酬載在哪裡被完整建立,接著將流程改寫為串流處理而非緩衝處理。請注意,AceMQ 並不負責營運 MuleSoft 平台;這項工作針對的是客戶在該平台上執行的應用程式、流程與整合設計。
解決方案
- 在重現的故障過程中剖析 worker heap,找出酬載被完整建立的位置
- 設定以檔案儲存為基礎的可重複串流,並針對大型酬載調整合適的緩衝區大小
- 改寫 DataWeave 轉換,以串流方式處理,而不是將整份文件載入記憶體
- 以批次處理與有上限的記錄區塊,取代對整個酬載的逐一迭代
- 讓重試從記錄檢查點接續,而不是重新處理整個檔案
- 以遠大於實際觀察到最大合作夥伴檔案的酬載進行負載測試
成效
記憶體不足故障不再發生,在相同的 worker 規格下,這項整合現在能處理比原先導致故障的檔案大上數倍的檔案。