Überblick
Quota und SpikeArrest lösen unterschiedliche Probleme und verhalten sich unterschiedlich. SpikeArrest glättet die momentane Rate auf Ebene des Message Processors; Quota zählt über ein Zeitfenster gegen einen verteilten Zähler. Wer das eine konfiguriert, wo das andere nötig wäre, erzeugt genau das Symptom, das dieser Kunde hatte.
Herausforderung
Partner erhielten Drosselungsantworten weit unterhalb ihres vertraglich vereinbarten Aufrufvolumens, während eine echte Lastspitze eines einzelnen Partners trotzdem das Backend erreichte und dessen Leistung beeinträchtigte. SpikeArrest war auf eine Rate eingestellt, die von einem einzigen Message Processor ausging, und die Quota-Policy war weder als verteilt noch als synchron konfiguriert – die Zählerstände liefen daher über die Processors hinweg auseinander.
Umgebung
Apigee X vor Backends für Reservierungen und Bestandsdaten, mit Quotas je Partnerstufe, definiert in API-Produkten.
Vorgehen
AceMQ bildete die beabsichtigten kommerziellen Rate Limits für jedes Verhalten auf die richtige Policy ab – Glättung von Lastspitzen versus vertragliches Volumen – und korrigierte die Einstellungen zur Verteilung der Zähler. Anschließend validierten wir mit einem Lastprofil, das sowohl eine gleichmäßige Partnerlast als auch eine realistische Lastspitze nachbildete.
Lösung
- Glättung von Lastspitzen (SpikeArrest) explizit von der Durchsetzung des vertraglichen Volumens (Quota) getrennt
- Verteilte und synchrone Zählung aktiviert, damit die Quota-Zähler über die Message Processors hinweg nicht auseinanderlaufen
- Quota-Identifier an API-Produkt und Developer App ausgerichtet statt an Standardwerten auf Proxy-Ebene
- SpikeArrest-Raten korrigiert, sodass sie die Zahl der tatsächlich Traffic bedienenden Message Processors berücksichtigen
- Vor dem Rollout Lasttests mit dauerhaftem Partner-Traffic und realistischen Lastspitzenprofilen durchgeführt
Resultat
Legitimer Partner-Traffic wird unterhalb des vertraglich vereinbarten Volumens nicht mehr abgewiesen, und Lastspitzen werden jetzt am Gateway geglättet, statt ungebremst das Backend zu erreichen.