BlogKafka

Reprise après sinistre Kafka : stratégies multirégions, architectures et compromis RPO/RTO

Scott Sternloff

Par Scott Sternloff, Architecte d’entreprise senior

LinkedIn · Mis à jour le · Lecture : 10 min

Reprise après sinistre Kafka : stratégies multirégions, architectures et compromis RPO/RTO
Sur cette page

Pour mettre en place la reprise après sinistre de Kafka, vous déployez un second cluster Kafka dans un domaine de défaillance indépendant (une autre région ou un autre datacenter), vous y répliquez en continu les topics et les offsets des groupes de consommateurs avec des outils comme Kafka MirrorMaker 2, Confluent Replicator ou AWS MSK Replicator, et vous maintenez un runbook de basculement testé qui redirige producteurs et consommateurs vers le cluster de destination. L'architecture choisie (actif-passif, actif-actif ou cluster étendu) est déterminée par deux chiffres : votre objectif de point de reprise (la perte de données que vous pouvez tolérer) et votre objectif de temps de reprise (la rapidité avec laquelle vous devez rétablir le service). Tout le reste d'un plan de reprise après sinistre Kafka découle de ces deux exigences métier.

Ce guide passe en revue les principales architectures de reprise après sinistre pour Kafka, leurs compromis et les pièges opérationnels (en particulier la traduction des offsets) qui distinguent un plan séduisant sur le papier d'un plan qui survit réellement à un sinistre.

Pourquoi un cluster Kafka unique n'est pas une stratégie de PRA

Apache Kafka est souvent présenté comme tolérant aux pannes, et c'est vrai au sein d'un même cluster. Avec un facteur de réplication de 3, Kafka répartit les données des partitions sur plusieurs brokers : la perte d'un ou deux brokers d'un cluster n'entraîne donc aucune perte de données. L'élection du leader promeut automatiquement les réplicas synchronisés, et un déploiement bien configuré encaisse sans broncher les pannes de broker courantes.

Mais la réplication intégrée ne vous protège qu'au sein d'un domaine de défaillance. Un cluster unique, même réparti sur plusieurs racks, vit dans une région, un réseau, un seul périmètre d'impact administratif. Il ne protège ni contre la perte d'une région entière, ni contre une suppression de topic par erreur, une mauvaise modification d'ACL, un quorum KRaft corrompu ou une panne du fournisseur cloud. Haute disponibilité et reprise après sinistre sont deux disciplines différentes : la HA maintient le cluster en service malgré les pannes de composants ; le PRA rétablit le service Kafka après la disparition de tout l'environnement.

Pour les équipes qui exploitent des pipelines de données temps réel dont dépend l'activité, cette distinction est le socle du plan de continuité d'activité. Si Kafka est la colonne vertébrale des paiements, de la logistique ou de la détection de fraude, une interruption qui se chiffre en heures n'est pas acceptable, pas plus que la perte silencieuse d'événements.

Partir du RPO et du RTO, pas des outils

Avant de comparer les outils de réplication, fixez deux chiffres avec les métiers :

  • Objectif de point de reprise (RPO) : la perte de données maximale acceptable, mesurée en temps. Un RPO de cinq minutes signifie que vous pouvez perdre jusqu'à cinq minutes de données Kafka lors d'un sinistre.
  • Objectif de temps de reprise (RTO) : le délai maximal acceptable pour rétablir le service. Un RTO de 30 minutes signifie que consommateurs et producteurs doivent fonctionner à nouveau dans la demi-heure.

Ces objectifs dictent le coût. La réplication asynchrone entre régions vous donne un RPO égal à votre retard de réplication (généralement de quelques secondes à quelques minutes) pour un coût modéré. Atteindre un RPO nul, c'est-à-dire un basculement sans perte de données, exige une réplication synchrone, ce qui implique de payer une pénalité de latence sur chaque requête de production et d'exploiter une infrastructure répartie sur plusieurs zones de disponibilité reliées par des liaisons rapides. Le temps de reprise atteignable dépend moins des outils que du degré d'automatisation et de répétition de votre procédure de basculement.

Soyez lucide sur chaque charge de travail. Un cluster qui transporte de l'analytique de clickstream peut tolérer un point de reprise moins strict qu'un cluster qui transporte des transactions financières. Beaucoup d'équipes aboutissent à des plans de reprise par niveaux : RPO/RTO stricts pour un petit nombre de topics critiques, objectifs assouplis pour tout le reste.

Les architectures de reprise après sinistre Kafka

Quatre schémas sont largement utilisés pour la reprise après sinistre d'Apache Kafka®. La plupart des déploiements de production utilisent l'un des deux premiers.

Actif-passif avec MirrorMaker 2

La stratégie de PRA Kafka la plus courante est une paire actif-passif : un cluster principal sert tout le trafic, tandis que MirrorMaker 2 (MM2), livré avec Apache Kafka et fondé sur le framework Kafka Connect, réplique de façon asynchrone les topics, les configurations et les offsets des consommateurs vers un cluster de secours dans une autre région ou un autre datacenter.

En fonctionnement normal, le cluster passif reçoit les données répliquées mais ne sert aucun client. En cas de sinistre, vous basculez : vous pointez producteurs et consommateurs vers le cluster de secours, vous le promouvez en principal et vous poursuivez. Le RPO est égal au retard de réplication ; le RTO dépend de la rapidité avec laquelle les clients peuvent être redirigés. Avec des adresses d'amorçage fondées sur le DNS et une automatisation répétée, cela peut se compter en minutes.

L'actif-passif est populaire parce qu'il est simple sur le plan conceptuel, fonctionne avec des outils open source et permet de garder un cluster de secours peu coûteux (il peut être plus petit tant qu'il n'est pas promu). Ses faiblesses sont asymétriques : le retour sur le site d'origine (failback) après le sinistre est souvent plus difficile que le basculement, et une synchronisation des offsets jamais testée peut discrètement casser la reprise des consommateurs. Nous y revenons plus bas.

Kafka actif-actif

Dans une topologie Kafka actif-actif, deux clusters ou plus, situés dans des régions différentes, servent tous du trafic réel et se répliquent mutuellement, généralement avec MM2 ou Confluent Cluster Linking. Dans chaque région, les clients produisent et consomment localement, ce qui réduit la latence interrégionale pour des utilisateurs géographiquement dispersés et fait du basculement essentiellement une question de routage du trafic : si une région tombe, l'autre est déjà en service.

Le prix à payer, c'est la complexité. Un Kafka multirégion en mode actif-actif exige un nommage soigné des topics (MM2 préfixe les topics répliqués avec l'alias du cluster source pour éviter les boucles de réplication infinies), des applications qui tolèrent une cohérence à terme entre régions, et une stratégie pour éviter les traitements en double lorsqu'un groupe de consommateurs change de cluster. Il n'existe pas d'ordre global entre les régions. Pour le bon cas d'usage (des charges de travail toujours disponibles et géodistribuées), l'actif-actif offre le meilleur RTO possible. Pour un produit mono-région, c'est généralement de la sur-ingénierie.

Clusters étendus

Un cluster étendu (stretch cluster) est un déploiement Kafka unique dont les brokers couvrent plusieurs datacenters ou zones de disponibilité, avec une réplication synchrone (acks=all et min.insync.replicas appliqué entre sites) : chaque écriture arrive sur au moins deux sites avant d'être acquittée. Si un site entier disparaît, le cluster continue de tourner : pas de basculement, pas de traduction d'offsets, un RPO nul.

Le revers, c'est la physique et le coût. Chaque requête de production paie la latence d'un aller-retour entre sites : les clusters étendus ne sont donc envisageables qu'entre des sites reliés par des liaisons à faible latence (généralement moins d'environ 50 ms, idéalement des zones de disponibilité d'une même région, avec des conceptions 2.5DC/3DC pour le placement du quorum). Contrairement à l'intuition, un cluster étendu n'est pas toujours plus cher que le mirroring, puisque vous exploitez un seul cluster au lieu de deux. Mais il ne protège pas contre les sinistres régionaux lorsque tous les sites partagent la même région, et il ne protège jamais contre les erreurs humaines, qui se répliquent instantanément sur tous les sites.

Sauvegarde et restauration vers un stockage objet

La réplication de cluster ne remplace pas les sauvegardes. La réplication copie fidèlement les erreurs : un topic supprimé ou des données empoisonnées sont répliqués sur votre site de secours en quelques secondes. Prendre régulièrement des instantanés des topics critiques vers un stockage objet (via des connecteurs Kafka Connect S3 sink ou le stockage hiérarchisé) offre une restauration à un instant donné que la réplication ne permet pas, au prix d'une restauration bien plus lente. Considérez-la comme un complément à un site de secours actif, pas comme un substitut.

Comparatif des architectures de PRA Kafka

Architecture RPO typique RTO typique Coût relatif Complexité Cas d'usage idéal
Actif-passif (MM2) Secondes à minutes (retard asynchrone) Minutes à heures $$ Modérée La plupart des charges de travail d'entreprise
Actif-actif Secondes (par région) Secondes à minutes $$$ Élevée Systèmes géodistribués toujours disponibles
Cluster étendu Nul Quasi nul (automatique) $$–$$$ Modérée à élevée Sites à faible latence, exigence de zéro perte de données
Sauvegarde/restauration Heures (intervalle des instantanés) Heures $ Faible Conformité, reprise après erreur humaine

Vous exploitez Kafka en production sans plan de basculement répété ? Les ingénieurs seniors d'AceMQ conçoivent, mettent en œuvre et éprouvent la reprise après sinistre de Kafka, et quand quelque chose casse à 3 h du matin, notre équipe de support 24/7 intervient avec des objectifs de réponse à partir de 15 minutes, selon le plan. Parlez à un ingénieur Kafka.

Le problème de la traduction des offsets (là où les plans de PRA échouent réellement)

Le mode de défaillance le plus subtil de la reprise après sinistre Kafka n'est pas la perte de données : ce sont des consommateurs qui reprennent au mauvais endroit. Les offsets sont propres à chaque cluster : l'offset 1 000 000 sur le cluster principal n'est pas l'offset 1 000 000 sur le cluster de destination, car la réplication démarre à des moments différents, la rétention supprime des plages différentes et le compactage réécrit les journaux différemment.

MirrorMaker 2 traite ce problème par des checkpoints : le MirrorCheckpointConnector émet périodiquement vers la cible les offsets traduits des groupes de consommateurs et, depuis Kafka 2.7, peut les synchroniser directement dans le topic __consumer_offsets de la cible. Mais certains pièges se révèlent lors des vrais basculements :

  • Granularité des checkpoints. La synchronisation des offsets est périodique (par défaut toutes les 60 secondes). Un consommateur qui bascule reprend au dernier checkpoint, pas au dernier enregistrement consommé : attendez-vous à des retraitements et rendez les consommateurs idempotents.
  • La traduction suit la réplication avec retard. MM2 ne peut traduire un offset qu'une fois l'enregistrement correspondant répliqué. Si le retard de réplication s'envole pendant la panne qui déclenche le basculement, les offsets traduits accusent un retard encore plus grand.
  • Les groupes doivent être inactifs pour être synchronisés. MM2 n'écrase pas les offsets des groupes de consommateurs activement connectés au cluster cible, ce qui surprend les équipes qui testent le basculement avec des consommateurs actifs des deux côtés.
  • Un sens unique. Les checkpoints vont de la source vers la cible. Revenir au cluster principal d'origine après une reprise réussie exige une réplication inverse et sa propre passe de traduction des offsets : planifiez et testez explicitement le retour arrière.
  • Les processeurs de flux ont un état supplémentaire. Les jobs Kafka Streams et Apache Flink conservent un état interne (topics de changelog, checkpoints/savepoints Flink) qui doit être restauré de façon cohérente, au-delà des seules données des topics.

Si vous ne pouvez pas dire précisément où chaque groupe de consommateurs reprendra après un basculement, vous n'avez pas encore de plan de reprise après sinistre : vous avez un pipeline de réplication.

Construire et tester un plan de reprise après sinistre Kafka

Un plan de reprise après sinistre opérationnel pour une installation Kafka couvre cinq points :

  1. Périmètre et objectifs. Quels topics, quels groupes de consommateurs, quel RPO/RTO par niveau, validés par les métiers et pas seulement par l'équipe plateforme.
  2. Configuration de la réplication. La configuration de MM2 ou de la réplication du service Kafka retenu : filtres de topics, intervalles de synchronisation des offsets, réplication des ACL et des schémas (n'oubliez pas le Schema Registry : les consommateurs du site de secours ont besoin des schémas), et supervision du retard de réplication avec des seuils d'alerte liés à votre RPO.
  3. Runbook de basculement. Des procédures de reprise exactes et exécutables : qui décide, comment les clients sont redirigés (DNS, découverte de services, diffusion de configuration), comment les offsets sont vérifiés et comment vous confirmez que la reprise a réussi.
  4. Runbook de retour arrière. Comment les changements répliqués reviennent et comment vous retrouvez un régime normal sans perte de données ni avalanche de doublons.
  5. Un calendrier de tests. Des game days au minimum chaque trimestre. Simulez des pannes de brokers, coupez une zone de disponibilité, puis répétez un basculement régional complet en préproduction avec un trafic représentatif de la production. Mesurez le RTO que vous atteignez réellement et mettez à jour la documentation chaque fois que la réalité contredit le plan.

Un PRA non testé échoue. Tout opérateur Kafka expérimenté a déjà vu un pipeline de mirroring tourner tranquillement pendant un an tout en ignorant silencieusement un topic à cause d'un filtre mal configuré, ce que l'on ne découvre que lors de la vraie panne.

Kafka managé et reprise après sinistre dans le cloud

Les plateformes managées changent la mécanique, pas la responsabilité. Sur AWS, MSK Replicator fournit une réplication interrégionale managée pour MSK, tandis que MirrorMaker 2 reste l'outil de choix pour les topologies hybrides et multicomptes. Confluent propose Cluster Linking, qui réplique les données vers un cluster Confluent Cloud en préservant les offsets à l'octet près, ce qui élimine le problème de traduction des offsets, et les options multirégions de Confluent Cloud peuvent automatiser une grande partie du basculement. Ce sont des fonctionnalités réellement utiles, mais chacune vous oblige encore à définir le RPO/RTO, à câbler la redirection des clients et à répéter le runbook. Une réplication managée n'est pas une reprise managée.

Si la question derrière cet article relève de l'architecture plutôt que d'un incident en cours (stratégie de partitionnement, dimensionnement, conception de la sécurité, migration), le conseil Kafka d'AceMQ y affecte un ingénieur senior attitré.

Cet article est la huitième des dix étapes du guide d'exploitation de Kafka, qui aborde les décisions d'exploitation dans l'ordre où elles se présentent sur un parc en production.

Questions fréquentes

Quelle est la stratégie de reprise après sinistre la plus courante pour les clusters Kafka ?

La réplication de cluster actif-passif avec MirrorMaker 2 est l'approche la plus courante : un miroir asynchrone des topics et des offsets des consommateurs vers un cluster de secours dans une autre région, associé à une procédure de basculement des clients répétée. Elle offre un bon équilibre entre coût, simplicité et RPO/RTO solides pour la plupart des charges de travail.

La reprise après sinistre Kafka peut-elle garantir zéro perte de données ?

Oui, mais uniquement avec une réplication synchrone : un cluster étendu (stretch cluster) couvrant plusieurs zones de disponibilité avec acks=all et un min.insync.replicas adapté, ou une fonctionnalité de plateforme qui assure des écritures synchrones entre sites. Les outils asynchrones comme Kafka MirrorMaker 2 impliquent toujours un RPO égal au retard de réplication : un basculement sans perte de données ne peut donc pas être garanti avec un simple miroir asynchrone.

À quelle fréquence tester un plan de reprise après sinistre Kafka ?

Au minimum chaque trimestre, ainsi qu'après tout changement significatif du déploiement Kafka (montées de version, nouveaux topics critiques, changements de topologie). Un test complet comprend un basculement régional dans un environnement de préproduction, la vérification du point de reprise de chaque groupe de consommateurs critique et un RTO mesuré, comparé à votre objectif.

Les clusters étendus ne coûtent-ils pas plus cher que le mirroring ?

Pas forcément. Un cluster étendu est un seul cluster réparti sur plusieurs sites, alors que le mirroring impose d'exécuter et d'exploiter deux clusters complets plus la couche de réplication. Les clusters étendus coûtent plus cher en latence et en réseau et exigent des liaisons de grande qualité, mais peuvent coûter moins cher en matériel et en exploitation. Les vraies contraintes sont le budget de latence et le fait qu'un cluster étendu au sein d'une seule région ne survit pas à la perte de toute la région.

Qu'est-ce que MirrorMaker 2 et comment fonctionne-t-il ?

MirrorMaker 2 est l'outil de réplication entre clusters fourni avec Apache Kafka, défini dans la KIP-382 et construit sur le framework Kafka Connect. Il consomme depuis un cluster source et produit vers un cluster cible, en répliquant les topics, leurs configurations, les groupes de consommateurs et leurs offsets, ainsi que les ACL. Par défaut, un topic répliqué est renommé avec l'alias du cluster source en préfixe : le topic orders d'un cluster nommé us-west devient us-west.orders sur la cible. C'est ce nommage qui rend possibles les architectures active-active sans boucles de réplication, et c'est aussi pourquoi les runbooks de basculement doivent rediriger les consommateurs vers les topics renommés.

Que deviennent les offsets des consommateurs lors d'un basculement ?

Avec MirrorMaker 2, des checkpoints traduisent périodiquement les offsets des groupes de consommateurs du cluster source vers le cluster cible. Lors du basculement, les consommateurs reprennent au dernier checkpoint traduit, généralement légèrement en retrait de leur position réelle : certains enregistrements sont donc retraités. Les consommateurs doivent être idempotents, et l'intervalle de synchronisation des offsets doit être réglé plus court que votre RPO. Confluent Cluster Linking évite complètement la traduction en préservant les offsets à l'octet près. --- La reprise après sinistre Kafka est une stratégie de résilience, pas un produit que l'on installe : choisissez l'architecture adaptée à votre RPO et à votre RTO, répliquez les données avec des outils que vous maîtrisez, surveillez de près le comportement des offsets et testez jusqu'à ce que le basculement devienne une formalité. N'attendez pas la panne pour découvrir les failles. AceMQ fournit un support 24/7 de niveau entreprise pour Kafka open source, avec des ingénieurs seniors d'astreinte et des objectifs de réponse à partir de 15 minutes, selon le plan : de la revue d'architecture de PRA jusqu'au rôle d'équipe que vous appelez quand une région tombe. Découvrez les services Kafka d'AceMQ ou souscrivez une couverture de support 24/7.

Scott Sternloff

Auteur

Scott SternloffArchitecte d’entreprise senior

Architecte d’entreprise senior chez AceMQ. Il signe ici les contenus techniques : architecture RabbitMQ, Kafka et Redis, clustering et migrations.

Consultation gratuite

Un regard expert sur votre cluster Kafka

Que vous deviez résoudre un incident de production, planifier une migration ou obtenir un second avis sur votre architecture, notre équipe est prête. Pas d’argumentaire commercial, seulement des réponses.

Nous écrire