전체 사례로 돌아가기

진단산업 공통

아무도 검색하지 않는데 인덱싱하고 있는 필드가 무엇인지 찾아냅니다

보험 서비스 기업

스토리지 증가 속도가 어떤 계획보다도 빨랐던 ELK 환경 전반의 로그 양, 필드 단위 활용도, 보존 정책을 진단했습니다.

개요

한 보험 서비스 기업의 ELK 클러스터는 뚜렷한 이유 없이 18개월 만에 스토리지가 두 번이나 부족해졌습니다. AceMQ는 실제로 무엇이 인덱싱되고 있으며 그중 얼마나 쓰이고 있는지를 진단했습니다.

과제

기본 동적 매핑 때문에 모든 JSON 로그 줄의 모든 필드가 인덱싱되고 저장되었으며, 여기에는 아무도 검색한 적 없는 대형 중첩 구조도 포함되었습니다. 일부 서비스는 info 레벨에서 요청과 응답 본문 전체를 기록하고 있었습니다. 보존 기간은 가치와 관계없이 모든 인덱스에 동일하게 적용되어, 디버그 레벨 애플리케이션 로그가 감사 기록만큼 오래 보관되었습니다. 스토리지 증가 곡선은 사업 성장과 아무 관련이 없었지만, 이를 설명할 필드 단위 데이터를 가진 사람은 없었습니다.

환경

사업 전반의 애플리케이션, 인프라, 감사 로그를 수집하는 온프레미스 ELK 클러스터.

접근 방식

진단에서는 인덱스 단위뿐 아니라 필드 단위로 스토리지 사용량을 측정하고, 이를 검색 및 대시보드 사용 현황과 교차 분석합니다. 이렇게 하면 비용은 가장 많이 들면서 효용은 가장 적은 필드가 무엇인지 정확히 드러나, 보존 정책이 정책 논쟁이 아닌 근거 기반 의사결정으로 바뀝니다.

해결책

  1. 인덱스 합계만이 아니라 디스크 사용량 분석으로 인덱스 패턴별 필드 단위 스토리지 사용량 산출
  2. 필드 사용 현황을 저장된 검색, 대시보드, 쿼리 이력과 교차 분석해 인덱싱은 되지만 검색되지 않는 필드 식별
  3. 패턴별 동적 매핑 동작을 검토해 명시적 매핑으로 대체해야 할 부분 식별
  4. 대용량 페이로드 로깅을 발생 지점에서 식별하고, 요청 및 응답 본문의 샘플링 또는 잘라내기 권고
  5. 디버그 로그와 감사 기록이 더 이상 같은 보존 정책을 공유하지 않도록 데이터 유형별 보존 등급 제안
  6. 권고 사항 적용 전후의 증가 곡선을 보여 주는 스토리지 예측 모델

성과

진단 결과, 인덱싱된 필드의 상당 부분이 어떤 쿼리에도 등장한 적이 없는 것으로 나타났습니다. 명시적 매핑과 등급별 보존 정책을 적용하자 예상 스토리지 증가세가 크게 완만해져, 다음 증설 계획을 취소할 수 있었습니다.

기술

ELK StackElasticsearchKibanaLogstash

ELK Stack 헬스 체크를 받을 준비가 되셨나요?

AceMQ의 시니어 ELK Stack 엔지니어는 바로 이런 유형의 프로젝트를 수행한 경험이 있습니다. 아키텍처 가이드, 실무 문제 해결, 지속적인 매니지드 파트너십 등 무엇이 필요하든 도와드릴 준비가 되어 있습니다.