Powrót do wszystkich studiów przypadków

Ocena środowiskaUsługi finansowe / płatności

Jak znaleźć wtyczkę, która kosztuje więcej niż usługa za nią

Dostawca technologii płatniczych

Pomiar, gdzie naprawdę powstaje opóźnienie żądań w łańcuchu wtyczek Kong i które wtyczki są warte swojego kosztu.

Przegląd

Każda wtyczka Kong działa na ścieżce żądania. Łańcuch budowany przez dwa lata przez różne zespoły może łatwo dodawać więcej opóźnienia niż usługa upstream, którą obsługuje, a typowymi winowajcami są własne wtyczki Lua wykonujące blokujące wywołania sieciowe.

Wyzwanie

Opóźnienie p99 na bramie stale rosło, choć nie dało się go przypisać żadnemu pojedynczemu wdrożeniu. Łańcuch wtyczek obejmował kilka wtyczek uwierzytelniania o pokrywających się zadaniach, własną wtyczkę Lua wykonującą synchroniczne zapytanie do usługi zewnętrznej oraz wtyczki logowania zapisujące do odbiornika, który okresowo się zatykał.

Środowisko

Kong na Kubernetes przed usługami autoryzacji płatności o ścisłych budżetach opóźnienia end-to-end.

Podejście

AceMQ zinstrumentował bramę tak, aby przypisywać opóźnienie do każdej wtyczki w każdej fazie, zamiast traktować łańcuch jako jedną liczbę, a następnie przeprowadził kontrolowane porównania z wyłączonymi pojedynczymi wtyczkami. To oddzieliło wtyczki, które faktycznie kosztują czas, od tych, które jedynie wyglądały podejrzanie.

Rozwiązanie

  1. Przypisanie opóźnienia żądań do poszczególnych wtyczek i faz wykonania zamiast do całego łańcucha
  2. Kontrolowane porównania A/B z wyłączonymi pojedynczymi wtyczkami pod obciążeniem zbliżonym do produkcyjnego
  3. Identyfikacja własnej wtyczki Lua wykonującej blokujące wywołanie zewnętrzne w fazie access
  4. Konsolidacja pokrywających się wtyczek uwierzytelniania w jedną zweryfikowaną ścieżkę
  5. Rekomendacja asynchronicznego lub buforowanego logowania tam, gdzie zatkany odbiornik zwiększał opóźnienia ogona
  6. Budżet opóźnienia dla każdej wtyczki, w którym muszą się zmieścić nowe wtyczki

Efekt

Opóźnienie dodawane przez bramę na poziomie p99 znacząco spadło po przerobieniu blokującej własnej wtyczki i konsolidacji łańcucha uwierzytelniania, a zespół zyskał budżet opóźnienia, względem którego oceni przyszłe wtyczki.

Technologie

KongRedisKubernetesNGINX

Czas na przegląd Health Check Kong?

Starsi inżynierowie Kong w AceMQ realizowali już dokładnie taki rodzaj projektu. Niezależnie od tego, czy potrzebują Państwo doradztwa architektonicznego, praktycznego usunięcia problemów, czy stałego partnerstwa w modelu usług zarządzanych – jesteśmy gotowi pomóc.