Voltar para todos os casos de uso

CorreçãoMultissetorial

Fazendo throttling do tráfego errado enquanto os picos reais passam

Plataforma de reservas de viagens

Correção da configuração de Quota e SpikeArrest do Apigee, que rejeitava tráfego legítimo enquanto deixava picos reais chegarem aos backends.

Visão geral

Quota e SpikeArrest resolvem problemas diferentes e se comportam de forma diferente. O SpikeArrest suaviza a taxa instantânea no nível do message processor; a Quota conta em um contador distribuído ao longo de uma janela. Configurar um onde você precisava do outro produz exatamente o sintoma que este cliente tinha.

Desafio

Os parceiros recebiam respostas de throttling bem abaixo do volume de chamadas contratado, enquanto um pico real de tráfego de um único parceiro ainda chegava ao backend e o degradava. O SpikeArrest estava configurado com uma taxa que pressupunha um único message processor, e a política de Quota não estava configurada como distribuída nem síncrona, então as contagens divergiam entre os processors.

Ambiente

Apigee X na frente dos backends de reservas e de inventário, com quotas por nível de parceiro definidas em API products.

Abordagem

A AceMQ mapeou os rate limits comerciais pretendidos para a política certa para cada comportamento (suavização de picos versus volume contratual) e corrigiu as configurações de distribuição dos contadores. Depois validamos com um perfil de carga que reproduzia tanto a carga constante de um parceiro quanto um pico realista.

Solução

  1. Separação explícita entre a suavização de picos (SpikeArrest) e a aplicação do volume contratual (Quota)
  2. Contagem distribuída e síncrona ativada, para que as contagens de quota não divirjam entre os message processors
  3. Identificadores de quota alinhados ao API product e ao developer app, em vez dos padrões no nível do proxy
  4. Taxas do SpikeArrest corrigidas para levar em conta o número de message processors que realmente atendem o tráfego
  5. Testes de carga com tráfego sustentado de parceiros e com perfis de pico realistas antes da implantação

Resultado obtido

O tráfego legítimo dos parceiros deixou de ser rejeitado abaixo do volume contratado, e os picos de tráfego agora são suavizados no gateway, em vez de chegarem intactos ao backend.

Tecnologias

ApigeeRedisKubernetesKong

Enfrentando um problema de produção com Apigee?

Os engenheiros Apigee sêniores da AceMQ já conduziram exatamente este tipo de projeto. Seja para orientação de arquitetura, correção mão na massa ou uma parceria gerenciada contínua, estamos prontos para ajudar.