Przegląd
Quota i SpikeArrest rozwiązują różne problemy i działają w odmienny sposób. SpikeArrest wygładza chwilowe natężenie ruchu na poziomie procesora komunikatów, a Quota zlicza wywołania w rozproszonym liczniku w określonym oknie czasowym. Skonfigurowanie jednej polityki tam, gdzie potrzebna była druga, daje dokładnie taki objaw, jaki wystąpił u tego klienta.
Wyzwanie
Partnerzy otrzymywali odpowiedzi o przekroczeniu limitu długo przed osiągnięciem zakontraktowanego wolumenu wywołań, a rzeczywisty skok ruchu od jednego partnera i tak docierał do backendu i pogarszał jego działanie. SpikeArrest ustawiono na wartość zakładającą jeden procesor komunikatów, a polityka Quota nie była skonfigurowana jako rozproszona ani synchroniczna, więc liczniki na poszczególnych procesorach się rozjeżdżały.
Środowisko
Apigee X przed backendami rezerwacji i stanów magazynowych, z limitami dla poszczególnych poziomów partnerów zdefiniowanymi w produktach API.
Podejście
AceMQ przypisało zamierzone handlowe limity wywołań do właściwej polityki dla każdego zachowania — wygładzanie skoków kontra wolumen wynikający z umowy — i poprawiło ustawienia rozproszenia liczników. Następnie zweryfikowaliśmy zmiany profilem obciążenia, który odtwarzał zarówno stały ruch partnerów, jak i realistyczny skok.
Rozwiązanie
- Jednoznaczne rozdzielenie wygładzania skoków (SpikeArrest) od egzekwowania wolumenu wynikającego z umowy (Quota)
- Włączenie rozproszonego i synchronicznego zliczania, aby liczniki limitów nie rozjeżdżały się między procesorami komunikatów
- Powiązanie identyfikatorów limitów z produktem API i aplikacją dewelopera zamiast domyślnych ustawień na poziomie proxy
- Skorygowanie wartości SpikeArrest z uwzględnieniem liczby procesorów komunikatów faktycznie obsługujących ruch
- Testy obciążeniowe zarówno przy stałym ruchu partnerów, jak i przy realistycznych profilach skoków przed wdrożeniem
Efekt
Prawidłowy ruch partnerów przestał być odrzucany poniżej zakontraktowanego wolumenu, a skoki ruchu są teraz wygładzane na bramie, zamiast w całości docierać do backendu.