Przegląd
Platforma przetwarzania transakcji obsługująca klientów bankowych włączyła Kafkę i zobaczyła, jak przepustowość spada mniej więcej siedmiokrotnie. Dodawanie instancji usług nic nie zmieniało — wydajność pozostawała stała niezależnie od liczby działających instancji, co jest sygnaturą wąskiego gardła, a nie limitu pojemności. Termin walidacji oznaczał, że platforma musiała w ciągu tygodnia wykazać 80 000 transakcji na godzinę.
Wyzwanie
Stała wydajność przy rosnącej równoległości wskazywała na konfigurację, a nie na sprzęt. Wdrożenie korzystało z Kafki 4.0 z KRaft, co usunęło zależność od ZooKeeper, ale też zmieniło zakres parametrów strojenia w porównaniu z zaleceniami, które przyswoiła sobie większość zespołów. Odtwarzanie po failover musiało działać niezależnie od wprowadzanych zmian, ponieważ obciążenie miało charakter finansowy.
Środowisko
Kafka 4.0 w trybie KRaft jako fundament platformy przetwarzania transakcji dla klientów bankowych, z JMeter używanym do walidacji obciążeniowej.
Podejście
Prace skupiły się na ustaleniu, dlaczego dodatkowe instancje nie dawały żadnego zysku, a następnie na weryfikacji każdej zmiany względem powtarzalnego profilu obciążenia w JMeter, tak aby poprawa była zmierzona, a nie założona. Zachowanie przy failover traktowano jako ograniczenie dla strojenia, a nie kwestię drugorzędną.
Rozwiązanie
- Przygotowanie powtarzalnego profilu obciążenia w JMeter, aby każdą zmianę konfiguracji można było zmierzyć względem tej samej linii bazowej
- Zbadanie, dlaczego zwiększenie liczby instancji usług dawało stałą przepustowość, i wyizolowanie punktu serializacji
- Dostrojenie konfiguracji producentów i brokerów pod wzorzec transakcji, a nie pod przepustowość ogólnego przeznaczenia
- Weryfikacja odtwarzania po failover pod obciążeniem, aby odporności nie poświęcić na rzecz szybkości
- Przegląd konfiguracji specyficznej dla KRaft w odniesieniu do zaleceń pisanych dla wdrożeń z czasów ZooKeeper
Efekt
Platforma zyskała zmierzoną ścieżkę powrotu do docelowej przepustowości przy zachowanym odtwarzaniu po failover, a także profil testów obciążeniowych, który może ponownie uruchamiać przy przyszłych zmianach.