개요
한 입찰 플랫폼은 요청당 엄격한 지연 예산 아래 운영되고 있었는데, 주기적으로 타임아웃 때문에 경매를 놓치고 있었습니다. Redis 평균 지연은 정상으로 보였지만, p99.9에서는 수백 밀리초에 달하는 급증이 일정한 간격으로 나타났습니다. AceMQ는 긴급 대응 SLA에 따라 투입되었습니다.
과제
급증 간격은 RDB 스냅샷 일정과 일치했습니다. 대형 Redis 프로세스를 fork하면 페이지 테이블이 복사되는데, Transparent Huge Pages가 활성화되어 있으면 fork 이후의 copy-on-write 비용이 몇 배로 커집니다. 공유된 huge page에 쓰기가 일어날 때마다 4KB가 아니라 2MB를 복사해야 했기 때문입니다. 이 영향은 평균 지연에서는 보이지 않고, 바로 이 워크로드가 민감한 꼬리 지연에서만 나타났습니다.
환경
엄격한 지연 예산 아래 실시간 입찰 결정을 제공하는 베어메탈 Linux 호스트 기반 Redis.
접근 방식
AceMQ는 급증 시각을 Redis 로그의 fork 소요 시간 및 커널 메모리 통계와 대조해, 원인 메커니즘을 추론하는 데 그치지 않고 확인했습니다. 수정은 호스트 구성, 영속성 전략, 그리고 fork 비용을 키우던 메모리 사용량을 대상으로 했습니다.
해결책
- 꼬리 지연 급증을 기록된 fork 소요 시간 및 커널 메모리 통계와 대조해 메커니즘 확인
- Redis 호스트에서 Transparent Huge Pages를 비활성화하고 fork 비용 기준으로 변경 효과 검증
- 프라이머리가 서비스 경로에서 더 이상 fork하지 않도록 스냅샷 작업을 레플리카로 이전
- 플랫폼의 실제 내구성 요건에 비추어 영속성 전략과 rewrite 임계값 검토
- 남아 있는 fork도 비용이 덜 들도록 키 구조를 바꿔 인스턴스당 메모리 사용량 축소
- 꼬리 지연 백분위수와 fork 소요 시간을 핵심 모니터링 지표로 계측
성과
주기적인 꼬리 지연 급증이 사라졌고, p99.9 지연은 플랫폼의 예산 안으로 돌아왔습니다. 캐시 계층에서 비롯된 경매 타임아웃도 멈췄습니다.