Torna a tutti i casi d'uso

ConsulenzaSoftware / Piattaforme digitali

Un isolamento tra tenant che regge anche al cliente che interroga dieci volte più di tutti gli altri

Fornitore di piattaforma SaaS B2B

Incarico di consulenza per progettare isolamento dei tenant, strategia degli indici e governance delle query su OpenSearch al servizio di migliaia di tenant clienti.

Panoramica

Il modello con un indice per tenant di un fornitore SaaS B2B aveva smesso di scalare con la crescita del numero di clienti. AceMQ ha progettato un'architettura dei tenant che mantiene le garanzie di isolamento riducendo il numero di shard che il cluster deve tracciare.

Sfida

Con un indice per tenant e impostazioni di shard predefinite, la maggior parte degli indici conteneva pochissimi dati mentre il cluster sosteneva il costo dei metadati di tutti. Il cluster state era cresciuto al punto da rallentare ogni decisione di allocazione. Allo stesso tempo, un piccolo numero di tenant di grandi dimensioni poteva monopolizzare il thread pool di ricerca e provocare rifiuti dalla coda per tutti gli altri, quindi l'isolamento che il modello a indice per tenant avrebbe dovuto garantire non reggeva davvero sotto carico.

Ambiente

OpenSearch su Kubernetes, migliaia di tenant con volumi che vanno da poche migliaia di documenti a centinaia di milioni.

Approccio

Abbiamo progettato un modello a livelli: i tenant piccoli condividono indici in pool con una routing key e la sicurezza a livello di documento, mentre i tenant grandi mantengono indici dedicati dimensionati sui loro dati. In parallelo abbiamo introdotto una governance a livello di ricerca, così che nessun singolo tenant possa esaurire i thread pool condivisi, e definito il percorso di promozione che un tenant segue man mano che cresce.

Soluzione

  1. Strategia di indicizzazione a livelli che separa gli indici condivisi in pool per i tenant piccoli dagli indici dedicati per quelli grandi
  2. Routing personalizzato e sicurezza a livello di documento per mantenere intatto l'isolamento dei tenant all'interno degli indici condivisi
  3. Criteri di promozione definiti e un percorso di reindex collaudato per spostare un tenant da pool a indice dedicato man mano che cresce
  4. Dimensionamento del thread pool di ricerca, limiti delle code e controlli di concorrenza per tenant, così che un tenant pesante non possa lasciare a secco gli altri
  5. Governance delle query con timeout, limiti sulla dimensione dei risultati e gestione dei rifiuti riportata al livello applicativo
  6. Template di cluster e di indice gestiti come codice, con onboarding dei tenant automatizzato end to end

Esito

Dopo l'accorpamento in pool dei tenant piccoli, il numero di shard è sceso di circa un ordine di grandezza e le operazioni sul cluster state sono tornate rapide. I rifiuti dalla coda di ricerca nelle ore di punta sono quasi del tutto scomparsi, e l'onboarding di un nuovo tenant è ora un passaggio automatizzato anziché la creazione manuale di un indice.

Tecnologie

OpenSearchKubernetesOpenSearch DashboardsTerraform

Vi servono indicazioni sull'architettura OpenSearch?

Gli ingegneri OpenSearch senior di AceMQ hanno già gestito proprio questo tipo di progetto. Che vi servano indicazioni architetturali, remediation operativa o una partnership gestita continuativa, siamo pronti ad aiutarvi.