Volver a todos los casos de uso

ConsultoríaSoftware / Plataformas digitales

Un aislamiento entre tenants que aguanta al cliente que consulta diez veces más que todos los demás

Proveedor de plataforma SaaS B2B

Proyecto de consultoría para diseñar el aislamiento entre tenants, la estrategia de índices y el gobierno de las consultas en un OpenSearch que atiende a miles de tenants de clientes.

Descripción general

El modelo de un índice por tenant de un proveedor SaaS B2B había dejado de escalar a medida que crecía su número de clientes. AceMQ diseñó una arquitectura de tenants que mantiene las garantías de aislamiento y reduce el número de shards que el clúster tiene que gestionar.

Reto

Con un índice por tenant y la configuración de shards por defecto, la mayoría de los índices contenían muy pocos datos mientras el clúster cargaba con el coste de metadatos de todos ellos. El cluster state creció tanto que ralentizaba cada decisión de asignación. Al mismo tiempo, un pequeño número de tenants grandes podía acaparar el thread pool de búsqueda y provocar rechazos en la cola para todos los demás, de modo que el aislamiento que se suponía que daba el modelo de un índice por tenant no se sostenía en realidad bajo carga.

Entorno

OpenSearch en Kubernetes, con miles de tenants que van desde unos pocos miles de documentos hasta cientos de millones.

Enfoque

Diseñamos un modelo por niveles: los tenants pequeños comparten índices agrupados con una clave de enrutamiento y seguridad a nivel de documento, mientras que los grandes mantienen índices dedicados dimensionados según sus datos. Además, añadimos gobierno a nivel de búsqueda para que ningún tenant pueda agotar los thread pools compartidos, y definimos la ruta de promoción que sigue un tenant a medida que crece.

Solución

  1. Estrategia de índices por niveles que separa los índices compartidos agrupados para tenants pequeños de los índices dedicados para los grandes
  2. Enrutamiento personalizado y seguridad a nivel de documento para mantener intacto el aislamiento entre tenants dentro de los índices compartidos
  3. Criterios de promoción definidos y una ruta de reindexación probada para pasar un tenant de agrupado a dedicado a medida que crece
  4. Dimensionamiento del thread pool de búsqueda, límites de cola y controles de concurrencia por tenant para que un tenant pesado no deje sin recursos al resto
  5. Gobierno de las consultas con timeouts, límites de tamaño de los resultados y gestión de rechazos comunicada a la capa de aplicación
  6. Plantillas de clúster y de índices gestionadas como código, con el alta de tenants automatizada de principio a fin

Resultado final

El número de shards bajó aproximadamente un orden de magnitud tras agrupar a los tenants pequeños, y las operaciones sobre el cluster state volvieron a ser rápidas. Los rechazos en la cola de búsqueda en las horas punta prácticamente desaparecieron, y dar de alta un nuevo tenant es ahora un paso automatizado en lugar de una creación manual de índices.

Tecnologías

OpenSearchKubernetesOpenSearch DashboardsTerraform

¿Necesita asesoramiento de arquitectura para OpenSearch?

Los ingenieros sénior de OpenSearch de AceMQ ya han llevado a cabo antes este mismo tipo de proyecto. Tanto si necesita asesoramiento de arquitectura como remediación práctica o una colaboración continua de servicios gestionados, estamos preparados para ayudarle.