On this page
O consumer lag é a distância entre a última mensagem gravada em uma partição e a última mensagem commitada pelo seu consumer group. Ele é medido por partição e mostra se os consumidores estão acompanhando os produtores. Algum consumer lag é normal: o lag é um sinal-chave de saúde, e não uma falha. Um lag que cresce de forma constante é um problema de capacidade ou de processamento; um lag que dá picos e se recupera geralmente é rebalance ou uma parada downstream.
O número em si é menos útil do que a forma que ele assume ao longo do tempo, e é aí que a maior parte do monitoramento erra.
O que é consumer lag no Kafka?
Toda partição tem um log end offset, a posição do registro mais recente. Os offsets do Kafka avançam à medida que o produtor grava, e cada consumer group do Kafka acompanha um offset commitado para aquela partição, que marca até onde ele já processou.
O consumer lag é a diferença:
lag = log end offset − committed consumer offsetUm lag de 40.000 significa que 40.000 registros estão esperando. Como os offsets são por partição, o lag total de um consumer group é a soma de todas as partições que ele possui, e uma média esconde justamente o caso que importa, em que uma única partição concentra quase todo o lag.
Por que o consumer lag importa
O lag do consumer group é o sinal mais claro de que um pipeline de streaming no Kafka está ficando para trás, e as consequências dependem inteiramente do que esses dados alimentam.
Em analytics, lag alto significa dashboards desatualizados. Em qualquer coisa operacional, é pior. Uma implantação que avaliamos usava brokers open source puros para transportar o tráfego de alarmes e eventos de uma infraestrutura de rede rural; ali, o lag não é um relatório atrasado, é um período em que os operadores simplesmente não conseguem ver as falhas na rede. O pipeline parece saudável porque a aplicação consumidora está rodando. Ela só está minutos atrás da realidade.
Esse é o risco real: um consumer group com lag não está fora do ar, então o monitoramento de uptime continua verde enquanto o impacto no negócio se acumula.
Como verificar o consumer lag
A ferramenta nativa informa o lag por partição:
kafka-consumer-groups.sh --bootstrap-server localhost:9092 \
--describe --group my-consumer-groupA saída mostra CURRENT-OFFSET, LOG-END-OFFSET e LAG para cada partição, além de qual instância de consumidor é dona dela. Leia partição por partição:
- Todas as partições com lag por igual: falta capacidade aos consumidores do Kafka como um todo
- Uma partição com lag e as demais em ordem: desbalanceamento entre partições ou uma instância de consumidor lenta
- Uma partição sem dono: mais partições do que consumidores em execução, ou um consumidor que morreu
Causas comuns de consumer lag
O processamento do consumidor é mais lento que o produtor do Kafka. O caso mais comum. Cada registro leva mais tempo para ser tratado do que o intervalo em que os registros chegam, então o backlog cresce sem parar.
Instâncias de consumidor insuficientes. O paralelismo dentro de um consumer group é limitado pelo número de partições. Doze partições significam no máximo doze consumidores úteis; um décimo terceiro fica ocioso. Se você já está na paridade, adicionar consumidores não ajuda, e você precisa de mais partições ou de um processamento mais rápido.
Desbalanceamento entre partições. Uma chave mal escolhida manda a maior parte do tráfego para uma única partição, então o lag se concentra em um só lugar. O consumidor dono dela se afoga enquanto os demais ficam ociosos, e o throughput agregado parece normal.
Um gargalo downstream. Escritas lentas no banco de dados, uma API com rate limit ou um cache sobrecarregado geram consumer lag porque o código do consumidor fica esperando em vez de processar. O Kafka raramente é a restrição; geralmente ele só torna visível a restrição de outro sistema.
Rebalance. Toda vez que um consumidor entra ou sai, as partições são redistribuídas e o processamento pausa. Rebalances frequentes produzem picos de lag repetidos sem nenhum problema real de capacidade por trás.
Configuração do consumidor. Um max.poll.records alto demais significa que um lote não consegue ser processado dentro do max.poll.interval.ms, o coordenador conclui que o consumidor morreu e o expulsa, disparando o rebalance que piora o lag. Esse ciclo vicioso é, isoladamente, o problema de consumer lag autoinfligido mais comum.
Pausas de garbage collection. Pausas longas de GC na aplicação consumidora parecem idênticas a um processamento lento e passam despercebidas com facilidade sem métricas da JVM ao lado das métricas de lag.

Contar mensagens vs. medir tempo
Essa é a distinção que a maior parte do monitoramento deixa passar. O lag em offsets conta mensagens; medir o tempo mostra quão atrás do presente o seu consumidor realmente está.
Dez mil registros não significam nada isoladamente. Em um tópico que recebe dez registros por segundo, isso equivale a cerca de dezessete minutos de atraso. Em um que recebe dez mil por segundo, é um segundo de atraso e está totalmente saudável.
Por isso, alertar com base na contagem bruta de offsets gera tanto alarmes falsos durante picos de tráfego quanto silêncio durante lentidões reais em tópicos de baixo volume. Sempre que possível, derive a idade do próximo registro não processado e defina os limites de lag com base nela. Isso responde diretamente à pergunta que todo mundo faz durante um incidente: quão desatualizados estão esses dados neste momento?
Monitoramento de consumer lag: ferramentas e métricas
As opções, mais ou menos em ordem de maturidade operacional:
| Ferramenta | Ideal para |
|---|---|
kafka-consumer-groups.sh | Verificações pontuais durante um incidente |
| Dashboards do Confluent / MSK | Monitoramento gerenciado |
| Kafka Lag Exporter | Métricas no Prometheus, incluindo uma estimativa em tempo |
| Burrow | Status dos consumer groups sem limites fixos |
JMX records-lag-max | Lag do lado do cliente, direto do consumidor |
| Conduktor, Confluent Control Center | Monitoramento via interface gráfica em vários clusters |
Para a maioria das equipes, monitorar o lag com o Kafka Lag Exporter enviando para o Prometheus, com dashboards no Grafana, é a base certa: ele expõe o lag por partição e estima o tempo decorrido, o que a métrica JMX bruta não faz.
Seja qual for a escolha, monitorar só o consumer lag do Kafka não basta. Acompanhe essas métricas de lag ao lado do desempenho do Kafka e do throughput dos consumidores, da frequência de rebalances e da latência downstream. O lag mostra que algo está errado; essas métricas mostram o quê.
Alerte com base na tendência, e não no nível. Uma alta sustentada por dez minutos é um sinal real. Um pico momentâneo depois de um deploy, não.
Consumer lag que você não consegue atribuir a uma causa? Esses problemas geralmente ficam downstream do broker: no código do consumidor, no design das partições ou em uma dependência que ninguém está observando. A AceMQ faz avaliações de arquitetura de Kafka que os encontram. Fale com um engenheiro da AceMQ.
Como reduzir o consumer lag
Aumente as instâncias de consumidor até o número de partições. É a correção mais barata quando você está abaixo da paridade. Acima disso, adicione partições primeiro, mas lembre-se de que o reparticionamento muda o mapeamento de chave para partição e as garantias de ordenação, então planeje a mudança em vez de fazê-la com o sistema rodando.
Corrija a chave de particionamento. Se uma partição carrega a carga, nenhum escalonamento resolve. Uma chave com melhor cardinalidade distribui o trabalho de forma equilibrada.
Ajuste o loop de poll. Reduza o max.poll.records para que um lote termine com folga dentro do max.poll.interval.ms. Aumente o intervalo se o processamento for realmente longo. Colocar esses dois valores em acordo interrompe o ciclo de expulsão e rebalance.
Agrupe as escritas downstream em lotes. Se cada registro dispara uma ida e volta separada ao banco de dados, agrupá-las costuma ser a maior melhoria isolada disponível.
Processe de forma assíncrona quando a ordenação permitir. Desacoplar o loop de poll do trabalho lento mantém o consumidor responsivo ao coordenador, mas, em troca, você assume a complexidade do commit de offsets.
Use rebalance cooperativo. A atribuição cooperativa incremental evita a pausa total do rebalance eager, então escalar um consumer group deixa de interromper todas as partições.
Rebalance do consumer group
O rebalance é uma causa comum de picos de lag, e a menos compreendida.
Quando um consumidor entra no grupo ou sai dele, as partições são redistribuídas. No protocolo eager, todos os consumidores param, liberam tudo e esperam a nova atribuição, uma pausa proporcional ao tamanho do grupo. No rebalance cooperativo, só as partições que realmente mudam de dono são pausadas.
Tempestades de rebalance, ou seja, rebalances repetidos em sequência rápida, geralmente vêm de consumidores sendo expulsos por estourar o max.poll.interval.ms, que é o problema de configuração descrito acima com outra roupagem. Se você vê o lag com picos em padrão de dente de serra, verifique a frequência de rebalances antes de adicionar capacidade.
Boas práticas
- Monitore o consumer lag por partição, nunca só o total do grupo: o desbalanceamento se esconde nas médias
- Alerte com base no tempo decorrido quando disponível, e na tendência, e não no nível absoluto
- Mantenha o número de consumidores ≤ número de partições e saiba qual dos dois é o seu teto
- Mantenha
max.poll.recordsemax.poll.interval.mscoerentes com o tempo real de processamento - Acompanhe a frequência de rebalances como uma métrica de primeira linha, ao lado das métricas de lag
- Instrumente a latência downstream: a causa geralmente está ali, e não em um cluster Kafka saudável
- Faça testes de carga na aplicação consumidora, e não só no cluster
O broker raramente é o componente que falha. Ele é o componente que torna mensuráveis os limites de todo o resto. Se você está comparando o Kafka com outras plataformas de mensageria, RabbitMQ Streams vs. Apache Kafka mostra onde cada um se encaixa, e a AceMQ oferece suporte Kafka e resposta a incidentes para implantações em produção.
Um lag que sempre volta costuma ser um sintoma de design, e não de ajuste: o que um health check de Kafka examina mostra as verificações que o identificam primeiro.
Como monitorar o consumer lag no Kafka: as quatro formas e quando cada uma basta
Existem quatro lugares de onde você pode ler o consumer lag, e eles respondem a perguntas diferentes. Escolher o errado é o motivo mais comum para uma equipe acreditar que tem monitoramento de lag e descobrir durante um incidente que não tem.
- 1. A linha de comando.
kafka-consumer-groups.sh --describeimprime uma linha por partição que o grupo possui.CURRENT-OFFSETé o último offset que o grupo commitou para aquela partição,LOG-END-OFFSETé o offset mais recente do broker eLAGé a diferença. É um retrato tirado no momento em que você rodou o comando, a partir do offset commitado, e não de onde o consumidor realmente está na memória. Isso o torna exatamente certo para uma sessão de shell quando alguém pergunta "o grupo está atrasado agora?" e exatamente errado como fonte de alertas. Nada o armazena, nada mostra a tendência, e um cron job raspando a saída dele é um sistema de monitoramento que você vai se arrepender de manter. - 2. As próprias métricas JMX do consumidor. Todo cliente Java expõe
records-lag-max(a pior partição que ele detém) erecords-lagcom tag por partição, no grupoconsumer-fetch-manager-metrics. São os números mais precisos disponíveis, porque vêm da posição real de fetch do consumidor, à frente de qualquer commit. O problema é que eles só existem enquanto o processo consumidor está vivo e fazendo poll. Um consumidor que caiu, travou em um loop de poll ou perdeu as partições em um rebalance não reporta nada, e um gráfico sem pontos de dados parece igual a um gráfico em zero. Se o seu único sinal de lag é o JMX do lado do cliente, a falha que você mais precisa detectar é justamente a que ele não consegue mostrar. - 3. Um lag exporter alimentando o Prometheus. Um exporter consulta os brokers para obter os offsets commitados de cada grupo e o log end offset de cada partição, calcula a diferença e a publica como
kafka_consumergroup_lagcom labels de grupo, tópico e partição, junto comkafka_consumergroup_group_lagpara o total do grupo. Os melhores exporters também derivam um valor baseado em tempo, geralmente com um nome comokafka_consumergroup_lag_seconds, interpolando os timestamps de produção dos offsets envolvidos. A vantagem sobre o JMX é que um consumidor morto continua mostrando lag, e mostrando-o crescer, porque o exporter lê o broker e não se importa se alguém está consumindo. Essa é a fonte com base na qual a maior parte dos alertas deveria ser escrita.
4. O próprio registro do broker em __consumer_offsets. Cada commit é uma mensagem nesse tópico interno compactado, com chave por grupo, tópico e partição. O exporter acima é apenas um cliente dele. Lê-lo diretamente é útil para análise forense, para descobrir quando um grupo fez o último commit e para encontrar grupos que ninguém se lembra de ter criado. Ele não é uma superfície de monitoramento por si só, mas saber que ele é a fonte da verdade explica por que o lag no Kafka é, na verdade, "log end menos o último offset commitado" e nada mais.
Contagens de mensagens são ambíguas entre tópicos, como o post já argumenta, então escreva o SLO em segundos atrás do head do log e use a contagem de mensagens como o diagnóstico por baixo dele.
kafka-consumer-groups.sh --bootstrap-server broker:9092 --describe --group orders-enricher
# Prometheus: page when a group is more than five minutes behind for ten minutes
max by (group) (kafka_consumergroup_lag_seconds{group="orders-enricher"}) > 300Alertas de lag sem acionar o plantão por ruído
A maioria dos alertas de lag é desligada em menos de um mês porque aciona o plantão a cada deploy e a cada pico de tráfego. As regras abaixo são as que vimos sobreviver.
- Alerte com base na taxa de crescimento e no tempo atrás do head, e não na contagem absoluta. Um grupo 40.000 mensagens atrás e estável é uma decisão de capacidade. Um grupo em 4.000 e subindo 500 por minuto é um incidente.
deriv(kafka_consumergroup_group_lag[10m]) > 0sustentado por uma janela, combinado com o limite de segundos de atraso acima, detecta o segundo caso sem acionar o plantão no primeiro. - Defina os limites por grupo, de acordo com o SLO de cada um. Um consumidor de score antifraude e um carregador noturno do data warehouse não compartilham o mesmo número. Coloque o orçamento de segundos de atraso na regra de alerta por grupo, ou por label, e recuse-se a escrever um padrão para o cluster inteiro.
- Zero membros com lag diferente de zero é um incidente, e não um aviso. O exporter expõe
kafka_consumergroup_members. Quando ele marca zero e o lag está acima de zero, ninguém está consumindo, e ninguém vai consumir até que uma pessoa aja. Acione o plantão imediatamente, por menor que seja o lag. - Suprima os alertas durante rebalances e deploys conhecidos. Um deploy em rolling de um grupo de doze instâncias produz um rebalance por instância, e o lag salta toda vez que as partições mudam de dono. Silencie o alerta de lag do grupo durante a janela do deploy ou condicione-o a um número estável de membros por cinco minutos. Como os rebalances funcionam de fato e como encurtá-los está no nosso guia de rebalance no Kafka.
- Combine o lag com o throughput dos consumidores. Lag subindo enquanto o
records-consumed-ratedo grupo está estável ou em alta significa que os produtores tiveram um pico e os consumidores vão alcançá-los. Lag subindo enquanto a taxa de consumo caiu significa que os consumidores ficaram mais lentos, e a causa geralmente está downstream. Mesmo sintoma, resposta oposta. Um produtor que está fazendo retries e gravando em duplicidade também pode inflar o lag pela outra ponta; veja nossa FAQ sobre timeout do produtor.
Os painéis do Grafana que valem a pena ter são: lag em segundos por grupo, lag em mensagens por partição para o grupo que você está investigando, para que o desbalanceamento fique evidente (se uma partição concentra o lag, a correção é a chave, e não o número de consumidores; veja estratégia de partições), a taxa de registros consumidos por grupo e a contagem de rebalances por grupo ao longo do tempo.
Nos contratos de suporte Kafka da AceMQ, os alertas de lag são encaminhados a um engenheiro designado, com resposta de quinze minutos para P1. As três primeiras perguntas que fazemos são sempre as mesmas: o número de membros é o que deveria ser, a taxa de consumo caiu ou a taxa de produção subiu, e o lag está em todas as partições ou em uma só. Essas três respostas separam um consumidor morto, uma parada downstream e uma chave quente antes que alguém abra um log. Se você prefere ter essa configuração projetada uma vez a redescobri-la às 3 da manhã, os nossos projetos de consultoria Kafka começam exatamente por ela.
Esta é a etapa três de dez do guia de operações do Kafka, que aborda as decisões operacionais na ordem em que elas surgem em um ambiente de produção.
Perguntas frequentes
O que é consumer lag no Kafka?
A diferença entre o log end offset de uma partição e o offset commitado pelo consumer group, ou seja, quantos registros foram produzidos, mas ainda não foram processados. Ele é medido por partição e somado em todo o grupo.
O que causa consumer lag no Kafka?
Processamento mais lento que a produção, poucas instâncias de consumidor para o número de partições, desbalanceamento entre partições, gargalos downstream, rebalances frequentes ou uma configuração de poll que faz os consumidores serem expulsos no meio de um lote.
Como verificar o consumer lag?
Rode kafka-consumer-groups.sh --describe --group <name> para ver o LAG por partição. Para monitoramento contínuo, use o Kafka Lag Exporter com Prometheus, o Burrow ou a métrica JMX records-lag-max do lado do cliente.
É normal ter algum consumer lag?
Sim. Um lag próximo de zero o tempo todo geralmente significa que você está superdimensionado. O que importa é se ele está estável e quanto atraso ele representa, e não quantas mensagens.
Como reduzir o consumer lag no Kafka?
Aumente o número de consumidores até o número de partições e, se você já estiver nessa paridade, adicione partições. Corrija chaves de partição desbalanceadas, agrupe em lotes as escritas downstream e ajuste o loop de poll para que os lotes terminem dentro do intervalo.
Por que adicionar mais consumidores não reduz o lag?
O paralelismo dentro de um consumer group é limitado pelo número de partições. Quando o número de consumidores se iguala ao de partições, as instâncias extras ficam ociosas. Em vez disso, adicione partições ou torne o processamento mais rápido.
Devo medir em mensagens ou em tempo decorrido?
O lag em offsets conta as mensagens não processadas; o tempo decorrido mede quão atrás do presente o consumidor está. O tempo é o sinal mais útil, porque o mesmo lag em offsets pode significar um segundo ou uma hora, dependendo do throughput.
Como o rebalance afeta o lag?
A redistribuição pausa o processamento, então o lag sobe a cada rebalance. O rebalance eager para o grupo inteiro; o rebalance cooperativo pausa apenas as partições que mudam de dono. Rebalances frequentes geralmente significam que os consumidores estão sendo expulsos por ultrapassar max.poll.interval.ms.
Como monitorar o consumer lag no Kafka?
Use kafka-consumer-groups.sh --describe para uma verificação pontual e rode um lag exporter que lê os offsets commitados nos brokers e publica kafka_consumergroup_lag no Prometheus para o monitoramento contínuo. Alerte com base no exporter, e não nas métricas JMX do consumidor, porque o lag via JMX desaparece quando o consumidor morre, enquanto o exporter continua reportando. Coloque lado a lado no Grafana o lag em segundos atrás do head do log por grupo, o lag em mensagens por partição e o throughput do consumidor. O lag sozinho diz que algo está atrasado; o throughput diz se o consumidor ficou mais lento ou se o produtor acelerou.
Qual é um bom limite de consumer lag no Kafka?
Não existe um número universal. Uma contagem de mensagens não significa nada sem o throughput do tópico, então defina o limite em segundos atrás do head do log e derive-o da finalidade do consumidor. Menos de um minuto para tudo aquilo de que um usuário ou uma decisão antifraude depende, alguns minutos para enriquecimento e fan-out de eventos, uma hora ou mais para carregadores batch. Depois, alerte com base na taxa de variação, e não só no nível: um grupo estável em um número alto é uma discussão de capacidade, e um grupo subindo a partir de um número baixo é um incidente. Defina um limite por grupo e revise-o quando a função do consumidor mudar.
Fontes
Talk to an engineer
Need a hand with Kafka?
Senior engineers who run it in production. Get a quote or a free consultation, no sales pitch.
Guias, comparativos e pesquisas

