Voltar para todos os casos de uso

AvaliaçãoServiços financeiros / pagamentos

Encontrando o plugin que custa mais do que o serviço por trás dele

Provedor de tecnologia de pagamentos

Medição de onde a latência das requisições é realmente gasta dentro da cadeia de plugins do Kong e de quais plugins valem o custo que têm.

Visão geral

Todo plugin do Kong roda no caminho da requisição. Uma cadeia montada ao longo de dois anos por equipes diferentes pode facilmente adicionar mais latência do que o próprio serviço de upstream que ela protege, e plugins Lua customizados que fazem chamadas de rede bloqueantes são os culpados de sempre.

Desafio

A latência p99 do gateway vinha crescendo de forma constante, sem que nenhum deploy isolado pudesse ser apontado como culpado. A cadeia de plugins incluía vários plugins de autenticação com responsabilidades sobrepostas, um plugin Lua customizado que fazia uma consulta síncrona a um serviço externo e plugins de logging que gravavam em um destino que congestionava de forma intermitente.

Ambiente

Kong em Kubernetes na frente de serviços de autorização de pagamentos com orçamentos rígidos de latência de ponta a ponta.

Abordagem

A AceMQ instrumentou o gateway para atribuir a latência por plugin e por fase, em vez de tratar a cadeia como um único número, e depois fez comparações controladas com plugins individuais desativados. Isso separou os plugins que custavam tempo de verdade daqueles que só pareciam suspeitos.

Solução

  1. Atribuição da latência das requisições por plugin e por fase de execução, e não à cadeia como um todo
  2. Comparações A/B controladas com plugins individuais desativados, sob carga semelhante à de produção
  3. Identificação de um plugin Lua customizado que fazia uma chamada externa bloqueante na fase de access
  4. Consolidação dos plugins de autenticação sobrepostos em um único caminho verificado
  5. Recomendação de logging assíncrono ou com buffer onde um destino congestionado estava adicionando latência de cauda
  6. Entrega de um orçamento de latência por plugin, dentro do qual os novos plugins precisam caber

Resultado obtido

A latência adicionada pelo gateway no p99 caiu substancialmente depois que o plugin customizado bloqueante foi reescrito e a cadeia de autenticação foi consolidada, e a equipe ganhou um orçamento de latência para avaliar os futuros plugins.

Tecnologias

KongRedisKubernetesNGINX

Pronto para um health check do Kong?

Os engenheiros Kong sêniores da AceMQ já conduziram exatamente este tipo de projeto. Seja para orientação de arquitetura, correção mão na massa ou uma parceria gerenciada contínua, estamos prontos para ajudar.