Voltar a todos os casos de utilização

AvaliaçãoServiços financeiros / Pagamentos

Encontrar o plugin que custa mais do que o serviço que está por trás dele

Fornecedor de tecnologia de pagamentos

Medir onde é realmente gasta a latência dos pedidos dentro da cadeia de plugins do Kong e que plugins compensam o seu custo.

Visão geral

Todos os plugins do Kong são executados no caminho do pedido. Uma cadeia montada ao longo de dois anos por equipas diferentes pode facilmente acrescentar mais latência do que o serviço upstream que protege, e os plugins Lua personalizados que fazem chamadas de rede bloqueantes são os culpados habituais.

Desafio

A latência p99 do gateway tinha vindo a crescer de forma constante, sem que nenhuma implementação em particular fosse a culpada. A cadeia de plugins incluía vários plugins de autenticação com responsabilidades sobrepostas, um plugin Lua personalizado que fazia uma consulta síncrona a um serviço externo e plugins de logging que escreviam para um destino que ficava congestionado de forma intermitente.

Ambiente

Kong em Kubernetes à frente de serviços de autorização de pagamentos, com orçamentos de latência ponta a ponta rigorosos.

Abordagem

A AceMQ instrumentou o gateway para atribuir a latência a cada plugin e a cada fase, em vez de tratar a cadeia como um único número, e realizou depois comparações controladas com plugins desativados individualmente. Isso permitiu separar os plugins que custavam tempo real dos que apenas pareciam suspeitos.

Solução

  1. Atribuição da latência dos pedidos a cada plugin e a cada fase de execução, e não à cadeia como um todo
  2. Comparações A/B controladas com plugins desativados individualmente, sob uma carga semelhante à de produção
  3. Identificação de um plugin Lua personalizado que fazia uma chamada externa bloqueante na fase access
  4. Consolidação dos plugins de autenticação sobrepostos num único percurso verificado
  5. Recomendação de logging assíncrono ou com buffer nos casos em que um destino congestionado acrescentava latência de cauda
  6. Entrega de um orçamento de latência por plugin, dentro do qual os novos plugins têm de caber

Resultado final

A latência p99 acrescentada pelo gateway caiu substancialmente depois de o plugin personalizado bloqueante ter sido reformulado e de a cadeia de autenticação ter sido consolidada, e a equipa ganhou um orçamento de latência para avaliar futuros plugins.

Tecnologias

KongRedisKubernetesNGINX

Pronto para um health check ao Kong?

Os engenheiros seniores de Kong da AceMQ já trataram exatamente este tipo de projeto. Quer precise de orientação de arquitetura, de correção prática ou de uma parceria de gestão contínua, estamos prontos para ajudar.