返回所有使用案例

技術支援製造/汽車

一個安靜的 Kafka 分割區,就能凍結作業中所有的事件時間視窗

車聯網遠端資訊服務供應商

診斷事件時間視窗停止觸發的問題:單一閒置的來源分割區拖住了整個作業的浮水印。

概覽

Flink 的浮水印取的是所有輸入通道中的最小值,因此只要有一個分割區停止產生記錄,浮水印就會被釘住,下游所有事件時間視窗也隨之停止觸發。作業看起來一切正常——沒有例外、沒有背壓、記錄仍在流動——輸出卻在無聲無息中停止了。AceMQ 能診斷這類問題,以及相關的浮水印故障。

挑戰

團隊往往在這個問題上耗費好幾個小時,因為所有明顯的健康指標都是綠燈。幾種變化形態相似又令人困惑:分割區過多的 Kafka 主題中,低流量分割區在夜間進入閒置;亂序容忍上限設得太寬鬆,導致視窗在資料抵達很久之後才觸發;在重新平衡之後才套用以分割區為單位的浮水印策略,順序保證因此喪失;以及遲到的記錄在沒有旁路輸出的情況下被丟棄,沒有人知道資料已經遺失。

環境

從 Kafka 或 Kinesis 消費資料、採用事件時間語意的 Apache Flink 作業,包含視窗彙總與區間 join。

做法

AceMQ 工程師會比較每個子任務目前的浮水印指標與來源分割區的活動狀況,閒置來源造成的停滯幾分鐘內就會現形。接著從頭到尾檢視浮水印策略——在哪裡指派、是否設定了閒置偵測,以及亂序容忍上限是否依實測的事件遲到時間訂定,而不是憑空猜測。

解決方案

  1. 依方案而定、最快 15 分鐘起的回應目標,由專屬資深工程師 24/7 處理,沒有 Tier-1 分流
  2. 比較每個子任務的浮水印指標與來源分割區活動,鎖定造成停滯的輸入
  3. 在浮水印策略上設定 withIdleness,並依低流量分割區實際的靜默期間調整時間長度
  4. 依實測的事件時間遲到程度訂定亂序容忍上限,而非沿用預設值
  5. 將浮水印指派移至來源連接器,讓以分割區為單位的順序在重新平衡與重新分割後依然成立
  6. 加入遲到記錄的旁路輸出與遲到指標,讓無聲的資料遺失變得可見

成效

停滯的事件時間視窗恢復運作,底層的浮水印策略也不再依賴每個分割區都保持忙碌。加入遲到記錄的旁路輸出後,通常還會揭露團隊原本不知道的其他資料遺失。

技術

Apache FlinkApache KafkaKubernetes

需要專業的 Apache Flink 技術支援嗎?

AceMQ 的資深 Apache Flink 工程師以前就處理過這類專案。無論您需要架構指引、實作面的問題修復,或是長期的託管合作關係,我們都已準備好協助您。