전체 사례로 돌아가기

문제 해결산업 공통

동기화는 초록불인데 웨어하우스 테이블은 낡아 가는 문제를 찾아내다

리테일 분석 조직

업스트림 스키마 변경 이후 대상 테이블은 조용히 갱신이 멈췄는데도 계속 성공으로 보고되던 Airbyte 커넥션을 진단했습니다.

개요

Airbyte에서 가장 큰 피해를 주는 장애는 빨간불이 켜진 작업이 아니라 초록불인 작업입니다. 소스에서 컬럼이 추가되거나 이름이 바뀌거나 타입이 바뀌었는데 커넥션의 스키마 전파 정책이 이를 조용히 무시하면, 레코드는 계속 적재되지만 정작 비즈니스 리포트에 쓰이는 컬럼은 갱신이 멈춥니다.

과제

소스 애플리케이션의 새 릴리스에서 컬럼 두 개의 이름이 바뀌고 숫자 필드 하나가 문자열로 변경되었습니다. Airbyte 커넥션은 오류 없이 계속 완료되었지만, 해당 필드를 기반으로 한 다운스트림 모델은 null을 반환했습니다. 모든 대시보드 알림이 데이터 최신성이 아니라 작업 상태에 연결되어 있었기 때문에, 여러 리포팅 주기가 지나도록 아무도 알아차리지 못했습니다.

환경

Kubernetes 위의 자체 호스팅 Airbyte가 PostgreSQL 및 SaaS 소스를 클라우드 웨어하우스로 동기화하고, dbt 모델이 원시(raw) 레이어를 사용하는 환경.

접근 방식

AceMQ 엔지니어들은 커넥션의 카탈로그 이력을 가져와 탐색된 스키마와 설정된 스트림 스키마를 비교하고, 어떤 필드가 언제 드리프트되었는지 정확히 짚어 냈습니다. 이어서 대상 쪽 정규화 동작을 추적하고 스키마 변경 정책을 바로잡은 뒤, 영향을 받은 구간을 한 번의 전체 새로 고침이 아니라 통제된 배치 단위로 백필했습니다.

해결책

  1. 탐색된 소스 카탈로그와 설정된 스트림 스키마를 비교해 드리프트되거나 누락된 필드를 식별
  2. 호환성을 깨는 변경이 조용히 잘려 나가지 않고 명확히 실패하도록 스트림별 스키마 변경 전파 정책을 재설정
  3. 영향을 받은 스트림을 올바른 기본 키와 커서 필드로 재구성
  4. 웨어하우스 크레딧 급증을 피하기 위해 영향받은 날짜 범위를 제한된 배치 단위로 백필
  5. 작업 상태와 별개로 데이터 지연을 알릴 수 있도록 대상에 최신성 및 행 수 검사를 추가

성과

갱신이 멈췄던 컬럼이 다시 채워졌고, 이제 커넥션이 수용할 수 없는 방식으로 소스 스키마가 바뀌면 눈에 띄게 실패합니다. 팀은 더 이상 작업 상태를 데이터 정확성의 대용 지표로 삼지 않습니다.

기술

AirbytePostgreSQLSnowflakeKubernetesdbt

Airbyte 프로덕션 문제에 직면해 계신가요?

AceMQ의 시니어 Airbyte 엔지니어는 바로 이런 유형의 프로젝트를 수행한 경험이 있습니다. 아키텍처 가이드, 실무 문제 해결, 지속적인 매니지드 파트너십 등 무엇이 필요하든 도와드릴 준비가 되어 있습니다.