Visão geral
Uma operadora de IoT industrial tinha tabelas ClickHouse que funcionavam bem quando foram criadas e se degradavam continuamente à medida que os dados dos sensores se acumulavam. As consultas dos dashboards liam a maior parte de cada tabela porque a sort key não correspondia à forma como os dados eram filtrados. A AceMQ redesenhou o schema em torno do mix real de consultas.
Desafio
O desempenho do ClickHouse é determinado em grande parte pela quantidade de dados que uma consulta consegue pular, o que depende da ordem da sort key, do particionamento e da granularidade do índice. As tabelas existentes tinham sido criadas com uma sort key que colocava um identificador de alta cardinalidade em primeiro lugar, então o índice primário esparso quase não permitia pular dados nos filtros por intervalo de tempo que todos os dashboards aplicavam.
Ambiente
Cluster ClickHouse on-premises armazenando vários anos de telemetria de sensores para dashboards de monitoramento de plantas industriais.
Abordagem
A AceMQ analisou o mix real de consultas e mediu, para cada consulta, quantos granules eram lidos em relação a quantos continham linhas correspondentes. Essa diferença orientou o redesenho da sort key e do particionamento. Em seguida, as escolhas de codecs e compressão foram feitas por coluna, com base nas características medidas dos dados, e não nos padrões.
Solução
- Análise do mix de consultas dos dashboards e medição dos granules lidos em relação aos granules com correspondências
- Reordenação das sort keys para começar pelas colunas que as consultas realmente filtram, restaurando o salto de dados pelo índice
- Escolha de uma granularidade de partição que limita a quantidade de parts e ainda permite o partition pruning por intervalo de tempo
- Aplicação de codecs por coluna adequados às características medidas dos dados, para séries temporais e colunas de baixa cardinalidade
- Criação de materialized views e tabelas de agregação para os rollups recorrentes dos dashboards
- Definição de políticas de TTL para mover os dados antigos para um armazenamento mais barato e expirá-los em um cronograma documentado
Resultado obtido
As consultas dos dashboards deixaram de varrer a maior parte de cada tabela e passaram a ler uma pequena fração, e os tempos de resposta típicos melhoraram em cerca de uma ordem de grandeza. O espaço ocupado em armazenamento também caiu de forma significativa com as mudanças de codecs e de TTL.