Visão geral
O WSO2 API Manager pode avaliar o throttling localmente em cada nó de gateway ou de forma centralizada pelo traffic manager. Quando os nós de gateway perdem a conexão com o traffic manager, ou quando os tópicos de eventos entre eles estão mal configurados, as decisões de throttling divergem e o limite aplicado deixa de corresponder à política publicada.
Desafio
Consumidores de um plano tarifado estavam ultrapassando os limites da assinatura, mas só de forma intermitente e sem ser possível reproduzir o problema em nenhum nó específico. Os nós de gateway tinham sido ampliados, e a configuração do receptor de eventos do traffic manager nos novos nós não correspondia à dos originais, de modo que os eventos de decisão de throttling não chegavam a todos eles. Sob carga, a divergência aumentava.
Ambiente
WSO2 API Manager no Kubernetes com vários nós de gateway, uma camada de traffic manager e um user store compartilhado.
Abordagem
A AceMQ rastreou os eventos de decisão de throttling desde o traffic manager até cada nó de gateway e identificou os nós que não os recebiam. Corrigimos a configuração do receptor de eventos e, em seguida, validamos a consistência do throttling sob carga, direcionando tráfego deliberadamente para cada nó.
Solução
- Rastreamento do fluxo de eventos de decisão de throttling do traffic manager até cada nó de gateway para encontrar as falhas
- Correção da configuração do receptor de eventos e dos tópicos nos nós de gateway adicionados durante o scale-out
- Alinhamento dos níveis de política de throttling e dos templates de chave, para que as políticas sejam avaliadas de forma idêntica em todos os nós
- Definição do comportamento em caso de falha para os nós de gateway que perdem a conectividade com o traffic manager
- Validação dos limites aplicados sob carga, com tráfego direcionado a cada nó individualmente
- Configuração dos nós de gateway em templates, para que futuros scale-outs não gerem divergências
Resultado obtido
O throttling aplicado passou a corresponder aos níveis de assinatura publicados em todos os nós de gateway, e adicionar capacidade de gateway não traz mais o risco de reintroduzir a divergência.