BlogueRabbitMQ

Desenho da arquitetura RabbitMQ para a escala futura: um modelo de planeamento

Scott Sternloff

Por Scott Sternloff, Arquiteto empresarial sénior

LinkedIn · Atualizado a · 16 min de leitura

Desenho da arquitetura RabbitMQ para a escala futura: um modelo de planeamento
On this page

Uma arquitetura RabbitMQ dimensionada para a carga de hoje raramente sobrevive a um crescimento de 5 a 10 vezes: a topologia do cluster, a replicação das filas de quórum e as mensagens multirregião falham de formas diferentes com a escala do que falham num incidente pontual. Planear a carga futura através de uma avaliação do estado atual, de um desenho do estado-alvo e de um plano de implementação faseado evita o projeto de redesenho que, dois anos depois, aparece como uma emergência.

A maioria das equipas nunca faz este exercício. Vai corrigindo o cluster que existe, um incidente de cada vez, até que o crescimento ultrapassa a topologia e alguém tem de redesenhar sob pressão. Eis como é, em alternativa, um processo deliberado de desenho do estado futuro.

O que significa, na prática, uma arquitetura RabbitMQ de "estado futuro"?

Significa desenhar a topologia do cluster, os tipos de fila e as mensagens entre regiões para a carga, o número de nós e a superfície de integração que espera ter com 5 a 10 vezes a escala atual, e depois trabalhar de trás para a frente até um caminho de migração, em vez de desenhar para a carga atual e esperar que a arquitetura estique.

A distinção é importante porque o RabbitMQ não se degrada de forma linear. Um cluster que lida confortavelmente com o número atual de bindings, de links de federation e de consumidores em fan-out pode bater num muro muito antes de chegar a 10 vezes, porque os bindings das exchanges, a replicação das filas de quórum e o tempo de ressincronização da federation têm todos um overhead que se acumula com a escala, em vez de crescer na mesma proporção.

Como se conduz um exercício de desenho do estado futuro em vez de corrigir de forma reativa?

Três fases, por esta ordem: avaliação do estado atual, desenho do estado-alvo, plano de migração. Saltar diretamente para o desenho do estado-alvo sem a avaliação é a falha mais comum: as equipas desenham uma arquitetura idealizada que ignora as bibliotecas cliente, as equipas aplicacionais e as restrições operacionais que já estão em produção, e o desenho fica indefinidamente parado em revisão.

Num projeto recente de desenho do estado futuro para um grande operador do setor energético, que corre RabbitMQ na monitorização de condutas ligada a sistemas SCADA, construímos duas opções de arquitetura em paralelo em vez de uma: um desenho de raiz sem quaisquer restrições e um desenho condicionado, que conciliava esse ideal com aquilo que as equipas aplicacionais podiam realisticamente alterar dentro da janela do projeto. Documentar a fundamentação de cada divergência entre as duas (porque valia a pena forçar a atualização de uma biblioteca cliente e onde a equipa aceitou um compromisso) contribuiu mais para obter a adesão das partes interessadas do que qualquer uma das opções teria conseguido sozinha.

A outra mudança que fez a diferença: rever o desenho em pontos de controlo curtos e iterativos, em vez de entregar uma arquitetura acabada no fim. Uma fase de desenho de quatro semanas que só recolhe feedback na quarta semana desperdiça três delas se a direção estiver errada.

Que componentes do RabbitMQ tem de acertar antes de escalar?

Um desenho de estado futuro não é apenas um exercício de clusters e nós: os tipos de exchange, as routing keys, os virtual hosts e as dead-letter queues que escolher agora determinam quanto retrabalho vão custar as próximas 5 a 10 vezes de crescimento. Uma direct exchange com uma routing key estável escala de forma previsível; uma topic exchange com routing keys com wildcards dá-lhe flexibilidade hoje, mas é precisamente o que provoca a proliferação de bindings mais tarde, por isso merece uma segunda análise antes de passar a sustentar dezenas de integrações. As fanout exchanges são simples e duráveis à escala precisamente porque dispensam por completo a avaliação da routing key; vale a pena usá-las por omissão em padrões de difusão em que o encaminhamento seletivo não é realmente necessário.

Os virtual hosts são o isolamento mais barato que alguma vez vai ter: separar ambientes, tenants ou unidades de negócio por vhost dentro de uma mesma implementação de sistemas distribuídos evita ter de dividir mais tarde em clusters separados apenas por razões de controlo de acessos. E as dead-letter queues deixam de ser opcionais quando o volume aumenta: um desenho de estado futuro deve definir à partida o tratamento de poison messages e os limites de entrega por fila, e não acrescentá-los depois de a primeira tempestade de requeues derrubar um message broker que, de resto, estava saudável. Nada disto é exótico. São os fundamentos da alta disponibilidade e da arquitetura orientada a eventos aplicados de forma deliberada, e não por acaso.

Que decisões de topologia do cluster contam a uma escala 5 a 10 vezes maior?

Há três decisões com um peso desproporcionado quando o volume cresce: o número e a localização dos nós, o desenho das exchanges e dos bindings e o grau de dependência de um único cluster face à divisão das cargas de trabalho. O número de nós não é apenas uma alavanca de débito: o overhead da replicação das filas de quórum e do consenso Raft cresce com a dimensão do cluster, pelo que uma topologia de 3 nós com bom desempenho não fica simplesmente mais rápida com 9 nós; passa a comportar-se de outra forma.

O desenho dos bindings é o fator que as equipas mais consistentemente subvalorizam. Um padrão de topic exchange que funciona sem problemas com alguns milhares de bindings pode tornar-se um verdadeiro passivo quando o número de bindings sobe para as dezenas de milhares, não porque o RabbitMQ não os consiga manter, mas porque reconstruir o estado de encaminhamento após a perda de um nó ou uma ressincronização da federation fica substancialmente mais lento à medida que o número de bindings cresce. Já vimos um link de federation que normalmente ressincronizava em cerca de 15 minutos demorar mais de uma hora a reconstruir-se durante um incidente, apenas por causa do volume de bindings; e num sistema ligado a SCADA, um consumidor sem dados atualizados durante 10 minutos provoca a paragem forçada da conduta. É este tipo de modo de falha que um desenho de estado futuro tem de contabilizar antes de acontecer, e não depois.

Como dimensionar as filas de quórum para o crescimento futuro?

Dimensione o fator de replicação em função do número de nós para o qual está a desenhar, e não do que tem hoje em execução. Um fator de replicação de 3 é o valor por omissão e funciona bem na maioria das cargas de trabalho; as filas críticas justificam por vezes 5, mas cada réplica acrescenta overhead de consenso Raft a todo o grupo, pelo que sobredimensionar "por precaução" tem um custo real de débito.

A questão de dimensionamento que realmente importa à escala futura não é o fator de replicação isolado: é o fator de replicação combinado com o número projetado de consumidores e com a taxa de mensagens por fila. Um desenho de filas que funciona bem com o fan-out de consumidores atual pode ter problemas de latência de consenso quando multiplica por 5 o número de consumidores que disputam a mesma fila de quórum. Faça testes de carga com o volume-alvo antes de fixar a topologia, e não depois da migração.

Parâmetro de desenhoDimensionamento para hojeDimensionamento para o estado futuro
Fator de replicaçãoCorresponde ao número atual de nósCorresponde ao número-alvo de nós a uma escala 5 a 10 vezes maior
Número de bindings por exchangePadrões de encaminhamento atuaisNúmero projetado de integrações, com testes de carga
Tempo de ressincronização da federationNão testado até um incidente o forçarMedido com o volume de bindings projetado

Quando usar federation ou shovel para mensagens multirregião?

A federation é a escolha por omissão para a distribuição multirregião contínua: mantém exchanges ou filas sincronizadas de forma flexível entre regiões, volta a ligar-se automaticamente após uma quebra do link e não exige que as topologias de origem e de destino coincidam exatamente. O Shovel é um mecanismo mais simples, ponto a ponto: move mensagens de uma origem definida para um destino definido e adequa-se melhor a migrações pontuais, a padrões de reencaminhamento ou à ligação entre ambientes que não vão usar federation a longo prazo.

O erro que vemos com mais frequência em desenhos multirregião é tratar a federation como um mecanismo de escalabilidade e não como um mecanismo de distribuição. A federation não reduz a carga numa região: replica-a. Se a proliferação de bindings ou o fan-out de consumidores são o verdadeiro estrangulamento, acrescentar links de federation entre mais regiões multiplica o problema em vez de o resolver. Normalmente, é nesse ponto que os streams, usados internamente numa região para logs de eventos de grande volume, se tornam o melhor complemento da federation na fronteira entre regiões, e não um substituto dela.

FederationShovel
Ideal paraDistribuição multirregião contínuaMigração pontual ou reencaminhamento simples
ReligaçãoAutomáticaConfigurável, menos automática por omissão
Adequação à topologiaOrigem e destino podem divergirCaminho fixo da origem para o destino

O RabbitMQ consegue sobreviver à falha de uma região?

Primeiro, a resposta honesta: não, não como um único cluster. O clustering standard do RabbitMQ pressupõe latência baixa, dentro do mesmo centro de dados, como explicamos em HA, recuperação de desastres e dimensionamento de clusters. Se estender o consenso Raft de um cluster entre regiões, cada escrita paga uma latência de rede real, e as falsas partições deixam de ser casos-limite raros e passam a acontecer todas as semanas. A falha de uma região tem de ser tratada por algo que não seja o cluster sobreviver-lhe intacto, o que significa escolher um de quatro padrões e aceitar o que cada um custa em consistência.

  • Federation. Replicação assíncrona e com consistência eventual entre regiões. Cada região continua a funcionar de forma independente com as suas filas locais; se o link para outra região cair, as mensagens ficam em fila e são reencaminhadas quando a ligação regressa. Especificamente para a falha de uma região, o padrão é a região sobrevivente continuar a consumir o seu próprio tráfego local, em vez de assumir diretamente as filas da região que falhou. É o padrão com menor overhead operacional dos quatro e o mesmo que já descrevemos acima para a distribuição multirregião em regime permanente; o caso de DR usa o mesmo mecanismo, apenas desencadeado por uma falha em vez de estar sempre ativo por desenho.
  • Shovel. A mesma ideia assíncrona, mas ponto a ponto e mais simples de analisar. Encaixa melhor num fluxo de recuperação definido do que numa sincronização bidirecional contínua: escoar o backlog pendente da região que falhou para a região sobrevivente como parte de um failover com script, em vez de manter duas regiões numa relação de sincronização permanente.
  • Replicação warm standby do Tanzu RabbitMQ. A opção comercial, por vezes designada warm schema replication: uma cópia assíncrona quase em tempo real de todo o schema, filas, bindings, exchanges, utilizadores e permissões, além das mensagens em trânsito, mantida num site secundário. O secundário pode ser promovido a primário com um esforço de recuperação mínimo, e a promoção funciona nos dois sentidos. É o RPO mais apertado dos quatro, medido em segundos de atraso e não em minutos, e é uma funcionalidade licenciada; consulte licenciamento do RabbitMQ para saber quanto custa numa implementação com primário e DR.
  • Replay ao nível da aplicação a partir de um armazenamento durável. Escrever os payloads, ou o suficiente para reconstruir a operação, num armazenamento durável totalmente fora do RabbitMQ (um object store ou uma tabela outbox), além de os publicar normalmente. Em caso de falha da região, faz-se o replay a partir desse armazenamento para a região sobrevivente. É a recuperação mais lenta das quatro e a que exige mais engenharia para construir e testar corretamente, mas não precisa de ferramentas de DR específicas do RabbitMQ e funciona com qualquer tipo de fila, incluindo as filas clássicas e os streams, que as outras três opções não cobrem tão bem.

A escolha depende do RPO e do RTO, não de preferências. Se o negócio não pode mesmo tolerar perder mais do que alguns segundos de dados em trânsito, a replicação warm standby é a única das quatro concebida para isso. Se minutos de atraso forem aceitáveis e a equipa já usa federation para a distribuição, estender o mesmo padrão para cobrir o failover custa pouco. Se o failover for suficientemente raro para que um fluxo ponto a ponto com script seja mais fácil de manter do que uma relação de replicação permanente, o shovel é o indicado. E se não houver orçamento para a licença comercial e a equipa conseguir assumir uma lógica de replay própria, o replay ao nível da aplicação funciona, mas só se alguém testar efetivamente o caminho de replay antes de cair a região que dele precisa.

Seja qual for o padrão escolhido, um runbook de failover regional tem de responder por escrito a cinco pontos antes de um incidente o obrigar a responder-lhes em direto: os critérios para declarar uma região em baixo e quem tem autoridade para o fazer, para que uma falha transitória não desencadeie um failover desnecessário; os passos exatos de promoção, seja um comando de transição do warm standby, a inversão do sentido de um link de federation ou o arranque de um job de replay; a forma como as ligações dos clientes são redirecionadas (alteração de DNS, alteração da connection string ou ambas) e o que se espera que as ligações existentes na região em falha façam quando não conseguem voltar a ligar-se aí; um plano de reconciliação para quando a região que falhou regressar, de modo a não processar o mesmo trabalho duas vezes nem reintroduzir um split-brain entre duas regiões que se julgam ambas primárias; e um passo de verificação (profundidade das filas, atraso dos consumidores e, idealmente, uma transação sintética) que confirme que o failover funcionou de facto antes de alguém dar o incidente por resolvido. O nosso trabalho de recuperação de desastres baseada em replay com Boomi mostra como é esse runbook na prática para equipas que usam especificamente o padrão de replay ao nível da aplicação.

Quando dividir em vários clusters lógicos e quando escalar apenas um?

Divida quando as cargas de trabalho têm requisitos de disponibilidade realmente diferentes, quando um tenant ruidoso ou com muitos bindings pode degradar links de federation partilhados com um tenant crítico ou quando fronteiras de residência de dados ou regulamentares o exigem expressamente. No exemplo ligado a SCADA acima, o argumento a favor do isolamento era concreto: uma carga de integração com muitos bindings a partilhar um cluster com a monitorização de condutas, da qual depende a segurança de pessoas, significava que a proliferação de encaminhamento de uma equipa podia atrasar a ressincronização da federation de que a outra equipa dependia para evitar uma paragem forçada.

Mantenha um único cluster quando não existe esse tipo de assimetria. Cada cluster lógico adicional é mais uma topologia para monitorizar, mais um conjunto de links de federation para manter e mais uma superfície para desvios de configuração entre ambientes. As equipas que dividem prematuramente, antes de haver uma verdadeira razão de isolamento, acabam normalmente com mais overhead operacional do que aquele que a divisão lhes poupou.

Como é o plano de migração e implementação?

Um plano de implementação ordena as alterações de forma a que o tráfego de produção nunca fique dependente de uma única transição. Normalmente, isso significa: a nova topologia é levantada ao lado da antiga, o tráfego é transferido de forma incremental por fila ou por grupo de consumidores e mantém-se um caminho de rollback ativo até o novo desenho ter passado por um ciclo de pico completo. As conversões para filas de quórum, o redesenho dos bindings e as alterações aos links de federation têm cada uma a sua própria fase, em vez de chegarem todas ao mesmo tempo.

A decisão de sequenciação que mais vezes falha é ordenar por risco e não por conveniência. As equipas tendem a migrar primeiro as cargas de trabalho mais fáceis porque isso mostra progresso, mas o desenho do estado futuro deve identificar qual a carga de trabalho que valida realmente o pressuposto mais arriscado da nova topologia e migrá-la cedo o suficiente para ainda ser possível mudar de rumo se estiver errado.

Para ver em detalhe os cálculos de dimensionamento por trás das decisões sobre clusters e filas de quórum, consulte o nosso guia de HA, recuperação de desastres e dimensionamento de clusters. Se as filas clássicas ainda fizerem parte da avaliação do estado atual, o nosso guia de migração de filas clássicas para filas de quórum trata dessa conversão, e o artigo sobre durabilidade das mensagens explica o que a replicação garante, e o que não garante, quando a nova topologia entrar em produção.

Desenhe para onde vai, não para onde está

A maioria das arquiteturas RabbitMQ não está errada para hoje: está errada para daqui a dezoito meses, e ninguém agendou a conversa que o detetaria. Um exercício de desenho do estado futuro é essa conversa, feita de forma deliberada e não durante uma indisponibilidade.

Se a sua equipa está a planear crescimento, uma fusão ou uma expansão multirregião e quer uma arquitetura-alvo e um plano de implementação documentados antes de se comprometer com uma opção, a nossa equipa de arquitetura RabbitMQ conduz este trabalho como um projeto estruturado: avaliação do estado atual, desenho do estado-alvo com fundamentação documentada e um plano de migração faseado, ordenado por risco. Fale com um arquiteto RabbitMQ para definir o âmbito de um projeto para o seu ambiente.

Perguntas frequentes

Em que consiste um exercício de desenho da arquitetura futura do RabbitMQ?

É um processo de planeamento estruturado (avaliação do estado atual, desenho do estado-alvo e plano de migração) que dimensiona o RabbitMQ para onde o negócio está a ir, e não apenas para onde está hoje. Substitui correções pontuais por um plano documentado de topologia, filas e multirregião que a equipa pode executar ao longo de vários trimestres, e não a meio de um incidente.

Como sei se a minha arquitetura RabbitMQ aguenta um crescimento de 5 a 10 vezes?

Modele as três coisas que se degradam de forma não linear com a escala: o número de bindings por exchange, o tempo de reconstrução dos links de federation após a perda de um nó e o overhead de replicação das filas. Se o número de bindings já anda pelas dezenas de milhares ou se a federation já demora minutos a ressincronizar hoje, essa curva piora, e não melhora, com mais volume.

Qual é a diferença entre federation e shovel no RabbitMQ para cenários multirregião?

A federation mantém exchanges ou filas sincronizadas de forma flexível entre regiões, com religação automática, e é a escolha por omissão para replicação multirregião contínua. O Shovel move mensagens ponto a ponto entre uma origem e um destino fixos e adequa-se melhor a migrações pontuais ou a padrões simples de reencaminhamento do que a uma topologia multirregião em regime permanente.

Como devo dimensionar as filas de quórum para o crescimento futuro, e não só para a carga atual?

Dimensione o fator de replicação (normalmente 3, por vezes 5 para filas críticas) em função do número de nós previsto, e não do atual, e faça testes de carga ao número de bindings e de consumidores com o volume projetado antes de fixar uma topologia. O overhead de replicação das filas de quórum cresce com a dimensão do cluster, pelo que um desenho que funciona com 3 nós pode comportar-se de forma diferente com 9.

Quando devo dividir o RabbitMQ em vários clusters lógicos em vez de escalar apenas um?

Divida quando as cargas de trabalho têm requisitos de disponibilidade substancialmente diferentes, quando um tenant ruidoso pode degradar os links de federation de outro ou quando fronteiras regulamentares ou de residência de dados exigem isolamento. Mantenha um único cluster quando o overhead operacional de gerir vários supera o benefício do isolamento; a maioria das equipas subestima esse overhead.

Quanto tempo demora habitualmente um projeto de desenho da arquitetura futura do RabbitMQ?

Uma fase de desenho focada, desde a avaliação do estado atual até uma arquitetura-alvo documentada e um plano de implementação, dura normalmente entre três e seis semanas, consoante o número de equipas e aplicações a jusante que têm de se pronunciar sobre as restrições. A implementação e a migração seguem-se como uma fase separada e mais longa.

Tenho de abandonar a federation para passar a um desenho multirregião baseado em streams?

Não. Os streams e a federation resolvem problemas diferentes e podem coexistir: streams para logs de eventos de grande volume e reprocessáveis dentro de uma região, federation para a distribuição entre regiões. A maioria dos desenhos de estado futuro mantém a federation na fronteira entre regiões e introduz streams internamente onde a proliferação de bindings é o verdadeiro estrangulamento.

Que entregáveis resultam de um exercício de desenho da arquitetura futura do RabbitMQ?

Uma avaliação do estado atual que documenta a topologia de hoje e os seus pontos de rutura, uma arquitetura-alvo com a fundamentação documentada de cada decisão importante e um plano de migração faseado que ordena as alterações de modo a que o tráfego de produção nunca fique dependente de uma única transição em big bang.

O RabbitMQ consegue sobreviver à falha de uma região?

Não como um único cluster estendido entre regiões: o clustering standard do RabbitMQ pressupõe latência baixa, dentro do mesmo centro de dados, e não tolera bem o atraso de uma ligação entre regiões. Sobreviver à falha de uma região implica usar federation, shovel, a replicação warm standby do Tanzu RabbitMQ ou o replay ao nível da aplicação a partir de um armazenamento durável entre dois clusters regionais independentes, escolhidos em função da perda de dados e do tempo de recuperação que o negócio consegue tolerar. A replicação warm standby oferece o ponto de recuperação mais apertado, mas é uma funcionalidade comercial licenciada; as outras três são padrões open source com garantias menos rigorosas.

A federation do RabbitMQ serve para recuperação de desastres?

Sim, para equipas que toleram um ponto de recuperação com consistência eventual medido em minutos e não em segundos. A federation replica de forma assíncrona entre regiões e volta a ligar-se automaticamente após uma quebra do link, pelo que a região sobrevivente continua a operar com o seu próprio tráfego durante a falha. Não é o RPO mais apertado disponível (esse é o da replicação warm standby do Tanzu RabbitMQ), mas estendê-la custa pouco se a equipa já usa federation para a distribuição multirregião em regime permanente.

Scott Sternloff

Autor

Scott SternloffArquiteto empresarial sénior

Arquiteto empresarial sénior na AceMQ. Escreve aqui os conteúdos técnicos: arquitetura, clustering e migrações de RabbitMQ, Kafka e Redis.

Talk to an engineer

Need a hand with RabbitMQ?

Senior engineers who run it in production. Get a quote or a free consultation, no sales pitch.

Consulta gratuita

Obtenha uma análise especializada de cluster RabbitMQ

Quer esteja a resolver um incidente em produção, a planear uma migração ou queira uma segunda opinião sobre a sua arquitetura, a nossa equipa está pronta. Sem discursos de vendas, apenas respostas.

Enviar e-mail