Przegląd
Każda wtyczka Kong działa na ścieżce żądania. Łańcuch budowany przez dwa lata przez różne zespoły może łatwo dodawać więcej opóźnienia niż usługa upstream, którą obsługuje, a typowymi winowajcami są własne wtyczki Lua wykonujące blokujące wywołania sieciowe.
Wyzwanie
Opóźnienie p99 na bramie stale rosło, choć nie dało się go przypisać żadnemu pojedynczemu wdrożeniu. Łańcuch wtyczek obejmował kilka wtyczek uwierzytelniania o pokrywających się zadaniach, własną wtyczkę Lua wykonującą synchroniczne zapytanie do usługi zewnętrznej oraz wtyczki logowania zapisujące do odbiornika, który okresowo się zatykał.
Środowisko
Kong na Kubernetes przed usługami autoryzacji płatności o ścisłych budżetach opóźnienia end-to-end.
Podejście
AceMQ zinstrumentował bramę tak, aby przypisywać opóźnienie do każdej wtyczki w każdej fazie, zamiast traktować łańcuch jako jedną liczbę, a następnie przeprowadził kontrolowane porównania z wyłączonymi pojedynczymi wtyczkami. To oddzieliło wtyczki, które faktycznie kosztują czas, od tych, które jedynie wyglądały podejrzanie.
Rozwiązanie
- Przypisanie opóźnienia żądań do poszczególnych wtyczek i faz wykonania zamiast do całego łańcucha
- Kontrolowane porównania A/B z wyłączonymi pojedynczymi wtyczkami pod obciążeniem zbliżonym do produkcyjnego
- Identyfikacja własnej wtyczki Lua wykonującej blokujące wywołanie zewnętrzne w fazie access
- Konsolidacja pokrywających się wtyczek uwierzytelniania w jedną zweryfikowaną ścieżkę
- Rekomendacja asynchronicznego lub buforowanego logowania tam, gdzie zatkany odbiornik zwiększał opóźnienia ogona
- Budżet opóźnienia dla każdej wtyczki, w którym muszą się zmieścić nowe wtyczki
Efekt
Opóźnienie dodawane przez bramę na poziomie p99 znacząco spadło po przerobieniu blokującej własnej wtyczki i konsolidacji łańcucha uwierzytelniania, a zespół zyskał budżet opóźnienia, względem którego oceni przyszłe wtyczki.