Panoramica
Quota e SpikeArrest risolvono problemi diversi e si comportano in modo diverso. SpikeArrest livella la frequenza istantanea a livello di message processor; Quota conta le richieste su un contatore distribuito all'interno di una finestra temporale. Configurare l'una dove serviva l'altra produce esattamente il sintomo riscontrato da questo cliente.
Sfida
I partner ricevevano risposte di throttling ben al di sotto del volume di chiamate previsto dal contratto, mentre un vero picco di traffico proveniente da un singolo partner raggiungeva comunque il backend e ne degradava le prestazioni. SpikeArrest era impostato su una frequenza che presupponeva un solo message processor, e la policy Quota non era configurata come distribuita né sincrona, quindi i conteggi divergevano tra i processor.
Ambiente
Apigee X davanti ai backend di prenotazione e inventario, con quote per fascia di partner definite negli API product.
Approccio
AceMQ ha associato i limiti di frequenza commerciali previsti alla policy corretta per ciascun comportamento (livellamento dei picchi oppure volume contrattuale) e ha corretto le impostazioni di distribuzione dei contatori. Abbiamo poi validato il tutto con un profilo di carico che riproduceva sia un carico costante dei partner sia un picco realistico.
Soluzione
- Separazione esplicita tra livellamento dei picchi (SpikeArrest) e applicazione del volume contrattuale (Quota)
- Attivazione del conteggio distribuito e sincrono, perché i conteggi delle quote non divergano tra i message processor
- Allineamento degli identificatori di quota all'API product e alla developer app invece che ai valori predefiniti a livello di proxy
- Correzione delle frequenze di SpikeArrest in base al numero di message processor che servono effettivamente il traffico
- Load test con traffico costante dei partner e profili di picco realistici prima del rollout
Esito
Il traffico legittimo dei partner non viene più respinto al di sotto del volume contrattuale, e i picchi di traffico vengono ora livellati sul gateway invece di raggiungere intatti il backend.