Visão geral
As políticas Quota e SpikeArrest resolvem problemas diferentes e comportam-se de forma diferente. A SpikeArrest suaviza a taxa instantânea ao nível do message processor; a Quota conta face a um contador distribuído ao longo de uma janela. Configurar uma onde se precisava da outra produz exatamente o sintoma que este cliente tinha.
Desafio
Os parceiros recebiam respostas de throttling muito abaixo do volume de chamadas contratado, enquanto um pico real de tráfego de um único parceiro continuava a chegar ao backend e a degradá-lo. A SpikeArrest estava definida com uma taxa que pressupunha um único message processor, e a política Quota não estava configurada como distribuída nem síncrona, pelo que as contagens divergiam entre processors.
Ambiente
Apigee X à frente de backends de reservas e de inventário, com quotas por nível de parceiro definidas nos API products.
Abordagem
A AceMQ fez corresponder os limites de taxa comerciais pretendidos à política certa para cada comportamento — suavização de picos versus volume contratual — e corrigiu as definições de distribuição dos contadores. Validámos depois com um perfil de carga que reproduzia tanto uma carga constante de parceiros como um pico realista.
Solução
- Separação explícita entre a suavização de picos (SpikeArrest) e a aplicação do volume contratual (Quota)
- Ativação da contagem distribuída e síncrona, para que as contagens de quota não divirjam entre message processors
- Alinhamento dos identificadores de quota com o API product e a developer app, em vez das predefinições ao nível do proxy
- Correção das taxas de SpikeArrest para ter em conta o número de message processors que efetivamente servem tráfego
- Testes de carga com tráfego de parceiros sustentado e com perfis de picos realistas antes da implementação
Resultado final
O tráfego legítimo dos parceiros deixou de ser rejeitado abaixo do volume contratado, e os picos de tráfego são agora suavizados no gateway em vez de chegarem intactos ao backend.