전체 사례로 돌아가기

진단통신

검색 속도와 보존 비용은 쿼리를 작성하기도 전에 인덱스 설계에서 결정됩니다

통신 사업자

체계 없이 늘어나 검색 성능 저하와 관리 불가능한 보존 규칙을 초래하던 인덱스 및 소스타입 설계를 진단했습니다.

개요

한 통신 사업자에는 수백 개의 인덱스와 그보다 훨씬 많은 소스타입이 쌓여 있었고, 그중 상당수는 사실상 중복이었습니다. 검색은 느렸고, 보존 정책은 일관성이 없었으며, 접근 제어는 파악조차 불가능했습니다. AceMQ는 아키텍처를 진단하고 통합 설계안을 만들었습니다.

과제

새 데이터 소스마다 기본적으로 전용 인덱스가 부여되었기 때문에, 보존, 접근 제어, 스토리지 계층화를 수백 번씩 구성해야 했고 실제로 구성되지 않은 경우도 많았습니다. 소스타입은 자동으로 할당되어, 같은 로그 형식인데도 필드 추출 방식이 다른 변형이 여럿 생겼습니다. 그래서 논리적으로 같은 유형의 데이터를 검색하려면 모든 변형을 손으로 나열해야 했습니다. 분석가들은 어떤 변형이 존재하는지 몰라서 데이터를 놓치는 일이 잦았습니다.

환경

네트워크, 보안, 애플리케이션 데이터에 걸쳐 수백 개의 인덱스를 운영하는 온프레미스 Splunk 인덱서 클러스터.

접근 방식

이번 진단은 인덱스와 소스타입을 소스 시스템이 아니라 실제 접근 제어 및 보존 요건에 따라 그룹화합니다. 애초에 인덱스의 경계를 결정해야 하는 기준이 바로 이것이기 때문입니다. 검색 패턴을 측정해 그룹화가 사람들이 실제로 조회하는 방식과 일치하는지 확인한 뒤, 기존 저장된 검색을 깨뜨리지 않는 마이그레이션 경로를 포함한 통합 레이아웃을 설계합니다.

해결책

  1. 항목별 데이터 양, 보존 설정, 접근 제어 구성을 포함한 전체 인덱스 및 소스타입 목록 작성
  2. 실제 로그 형식을 기준으로 소스타입 변형을 묶어, 하나로 합쳐야 할 중복 식별
  3. 제안한 인덱스 경계가 분석가의 실제 데이터 조회 방식과 일치하는지 검색 패턴 분석으로 확인
  4. 소스 시스템이 아니라 보존 및 접근 제어 요건을 기준으로 한 통합 인덱스 설계
  5. 예전에는 여러 번 해야 했던 검색을 한 번으로 처리할 수 있도록 통합 소스타입별 필드 추출 표준화
  6. 매크로와 별칭으로 기존 저장된 검색을 유지해, 전환 시점에 어떤 대시보드도 깨지지 않도록 하는 마이그레이션 계획

성과

인덱스 수가 관리 가능한 수준으로 줄었고, 보존과 접근 제어는 소스별이 아니라 계층별로 한 번만 정의됩니다. 예전에는 소스타입 변형을 일일이 나열해야 했던 검색이 이제는 하나의 통합 유형을 대상으로 실행되며, 분석가들이 존재조차 몰라서 데이터를 놓치는 일도 사라졌습니다.

기술

SplunkLinuxSyslog

Splunk 헬스 체크를 받을 준비가 되셨나요?

AceMQ의 시니어 Splunk 엔지니어는 바로 이런 유형의 프로젝트를 수행한 경험이 있습니다. 아키텍처 가이드, 실무 문제 해결, 지속적인 매니지드 파트너십 등 무엇이 필요하든 도와드릴 준비가 되어 있습니다.