전체 사례로 돌아가기

컨설팅소프트웨어 / 디지털 플랫폼

다른 고객보다 열 배 무거운 쿼리를 던지는 테넌트가 있어도 무너지지 않는 테넌트 격리

B2B SaaS 플랫폼 기업

수천 개 고객 테넌트를 서비스하는 OpenSearch의 테넌트 격리, 인덱스 전략, 쿼리 거버넌스를 설계한 컨설팅 프로젝트입니다.

개요

한 B2B SaaS 기업은 고객 수가 늘어나면서 테넌트별 인덱스 모델이 더 이상 확장되지 않는 상황이었습니다. AceMQ는 격리 보장을 유지하면서도 클러스터가 관리해야 하는 샤드 수를 줄이는 테넌트 아키텍처를 설계했습니다.

과제

테넌트마다 인덱스를 하나씩 두고 샤드 설정을 기본값으로 쓰다 보니, 대부분의 인덱스에는 데이터가 거의 없는데도 클러스터는 그 모든 인덱스의 메타데이터 비용을 떠안고 있었습니다. 클러스터 상태가 커져서 모든 할당 결정이 느려졌습니다. 동시에 소수의 대형 테넌트가 검색 스레드 풀을 독점해 다른 모든 테넌트에서 큐 거부가 발생했고, 테넌트별 인덱스 모델이 제공해야 할 격리는 부하가 걸리면 실제로 유지되지 않았습니다.

환경

Kubernetes 기반 OpenSearch, 문서 수천 건부터 수억 건까지 규모가 다양한 수천 개 테넌트.

접근 방식

AceMQ는 계층형 모델을 설계했습니다. 소규모 테넌트는 라우팅 키와 문서 수준 보안을 적용한 공용 인덱스를 함께 쓰고, 대규모 테넌트는 데이터 규모에 맞춘 전용 인덱스를 유지합니다. 이와 함께 어떤 테넌트도 공유 스레드 풀을 고갈시키지 못하도록 검색 단계의 거버넌스를 추가하고, 테넌트가 성장할 때 거치는 승격 경로를 정의했습니다.

해결책

  1. 소규모 테넌트용 공용 인덱스와 대규모 테넌트용 전용 인덱스를 분리한 계층형 인덱스 전략
  2. 공용 인덱스 안에서도 테넌트 격리를 유지하기 위한 커스텀 라우팅과 문서 수준 보안
  3. 테넌트가 성장할 때 공용 인덱스에서 전용 인덱스로 옮기기 위한 승격 기준 정의와 검증된 재색인 경로
  4. 무거운 테넌트 하나가 나머지 테넌트의 자원을 빼앗지 못하도록 검색 스레드 풀 크기, 큐 한도, 테넌트별 동시성 제어 설정
  5. 타임아웃, 결과 크기 상한, 애플리케이션 계층까지 전달되는 거부 처리를 포함한 쿼리 거버넌스
  6. 클러스터 및 인덱스 템플릿을 코드로 관리하고 테넌트 온보딩을 처음부터 끝까지 자동화

성과

소규모 테넌트를 공용 인덱스로 통합한 뒤 샤드 수가 약 10분의 1로 줄었고, 클러스터 상태 관련 작업도 다시 빨라졌습니다. 피크 시간대의 검색 큐 거부는 거의 사라졌으며, 신규 테넌트 온보딩은 이제 수작업 인덱스 생성이 아니라 자동화된 단계입니다.

기술

OpenSearchKubernetesOpenSearch DashboardsTerraform

OpenSearch 아키텍처 가이드가 필요하신가요?

AceMQ의 시니어 OpenSearch 엔지니어는 바로 이런 유형의 프로젝트를 수행한 경험이 있습니다. 아키텍처 가이드, 실무 문제 해결, 지속적인 매니지드 파트너십 등 무엇이 필요하든 도와드릴 준비가 되어 있습니다.