Visão geral
Quota e SpikeArrest resolvem problemas diferentes e se comportam de forma diferente. O SpikeArrest suaviza a taxa instantânea no nível do message processor; a Quota conta em um contador distribuído ao longo de uma janela. Configurar um onde você precisava do outro produz exatamente o sintoma que este cliente tinha.
Desafio
Os parceiros recebiam respostas de throttling bem abaixo do volume de chamadas contratado, enquanto um pico real de tráfego de um único parceiro ainda chegava ao backend e o degradava. O SpikeArrest estava configurado com uma taxa que pressupunha um único message processor, e a política de Quota não estava configurada como distribuída nem síncrona, então as contagens divergiam entre os processors.
Ambiente
Apigee X na frente dos backends de reservas e de inventário, com quotas por nível de parceiro definidas em API products.
Abordagem
A AceMQ mapeou os rate limits comerciais pretendidos para a política certa para cada comportamento (suavização de picos versus volume contratual) e corrigiu as configurações de distribuição dos contadores. Depois validamos com um perfil de carga que reproduzia tanto a carga constante de um parceiro quanto um pico realista.
Solução
- Separação explícita entre a suavização de picos (SpikeArrest) e a aplicação do volume contratual (Quota)
- Contagem distribuída e síncrona ativada, para que as contagens de quota não divirjam entre os message processors
- Identificadores de quota alinhados ao API product e ao developer app, em vez dos padrões no nível do proxy
- Taxas do SpikeArrest corrigidas para levar em conta o número de message processors que realmente atendem o tráfego
- Testes de carga com tráfego sustentado de parceiros e com perfis de pico realistas antes da implantação
Resultado obtido
O tráfego legítimo dos parceiros deixou de ser rejeitado abaixo do volume contratado, e os picos de tráfego agora são suavizados no gateway, em vez de chegarem intactos ao backend.