Retour à tous les cas d'usage

AuditServices financiers / trading

Savoir où le cluster atteindra ses limites avant l'arrivée des données

Fournisseur de données de marchés financiers

Audit de la topologie des shards et des réplicas, de la hiérarchisation du stockage, des limites de concurrence des requêtes et du comportement des merges, en prévision d'une forte hausse du volume de données.

Présentation

Un fournisseur de données de marché intégrait de nouveaux flux de bourses qui allaient multiplier le volume stocké. Plutôt que d'agrandir le cluster en proportion, il a fait appel à AceMQ pour déterminer quelles parties devaient réellement grandir et lesquelles étaient mal configurées.

Défi

Bien faire monter ClickHouse en charge suppose de savoir quelle ressource est réellement limitante. Le débit des merges, la concurrence des requêtes, la charge de coordination de Keeper et la bande passante du stockage cèdent chacun à leur manière et sont souvent confondus. Le cluster existant n'avait jamais été profilé sous charge soutenue : personne ne savait laquelle de ces ressources saturerait la première.

Environnement

ClickHouse réparti entre du matériel sur site et du stockage objet dans le cloud, servant des requêtes sur des données de marché historiques et intrajournalières.

Approche

AceMQ a profilé le cluster sous une charge soutenue représentative plutôt qu'avec des benchmarks synthétiques, en suivant simultanément le débit des merges, la mise en file d'attente des requêtes, la latence des requêtes Keeper et la bande passante du stockage pour voir laquelle saturait en premier. Les constats ont été rapportés à la hausse de volume prévue.

Solution

  1. Profilage du cluster sous une charge soutenue représentative pour identifier la ressource qui sature en premier
  2. Revue de la topologie des shards et des réplicas au regard du routage des requêtes et des exigences de tolérance aux pannes
  3. Évaluation du déploiement de Keeper, de la latence des requêtes et de la charge de coordination, en tant que contrainte de montée en charge à part entière
  4. Évaluation de la configuration du stockage hiérarchisé et du déplacement des parts anciennes vers le stockage objet
  5. Revue des limites de concurrence des requêtes, du comportement de mise en file d'attente et des contrôles de ressources par utilisateur
  6. Livraison d'un modèle de capacité reliant le volume de données prévu à des actions de montée en charge précises et à leur ordre

Résultat obtenu

Le fournisseur a intégré les nouveaux flux grâce à une montée en charge ciblée plutôt qu'à une extension proportionnelle du cluster. Deux contraintes qui auraient été atteintes avant le stockage, la coordination Keeper et le débit des merges, ont été traitées en amont de la hausse.

Technologies

ClickHouseClickHouse KeeperS3Prometheus

Prêt pour un bilan de santé ClickHouse ?

Les ingénieurs ClickHouse seniors d'AceMQ ont déjà mené exactement ce type de mission. Que vous ayez besoin de conseils d'architecture, d'une remédiation concrète ou d'un partenariat managé dans la durée, nous sommes prêts à vous aider.