DataBridge Pro 엔터프라이즈 운영 가이드
DataBridge Pro는 오라클, 포스트그레, MySQL 등 이종 데이터베이스 원장과 SFTP, AWS S3 대용량 파일을 Zero-Copy Lock-Free 링버퍼 기반으로 초당 102,000+ 건씩 초고속 이관하고, 무중단 스키마 변경 감지 및 인라인 DLQ 1초 리플레이를 제공하는 차세대 엔터프라이즈 데이터 오케스트레이션 플랫폼입니다.
연결 인프라 등록 및 상태 관제
데이터 이관의 첫 단계는 원천(Source)과 타깃(Target) 시스템을 안전하게 등록하는 것입니다. DataBridge Pro는 RDBMS 및 대용량 파일 스토리지를 통합 관리합니다.
- RDBMS: Oracle (11g~19c), PostgreSQL, MySQL, MariaDB
- 파일 스토리지: SFTP (SSH 포트 22), AWS S3 데이터레이크, NAS
지능형 카탈로그 & 파일 데이터셋 탐색기
수백 개 이상의 엔티티 원장에서 원하는 대상 테이블이나 파일을 신속하게 탐색하고 1초 만에 스키마를 자동 추출합니다.
업무 도메인(영업, CRM, 결제, 감사) 탭 필터링 및 실시간 초성 검색을 지원합니다. 행 수(Row Count), PK 존재 여부, 샘플 레코드 3건을 실시간 프리뷰합니다.
원천이 파일 스토리지일 때 디렉토리 Glob 패턴(/incoming/*.csv), 포맷(CSV/Parquet/JSONL), 인코딩(UTF-8, EUC-KR)을 1초 자동 분석하여 타깃 DDL을 즉시 생성합니다.
비즈니스 매핑 및 인라인 연산식 엔진
단순 1:1 복사를 넘어, 데이터 보안 마스킹, 일련번호 채번, 세무/할인율 연산, 시간대 정규화 등을 코드 한 줄 없이 GUI에서 선언적으로 구성합니다.
| 매핑 유형 | 예시 표현식 (Expression) | 설명 및 비즈니스 효과 |
|---|---|---|
| Direct (1:1) | - | 원천 컬럼을 타깃 컬럼으로 고속 직접 매핑 |
| Sequence | ROW_NUMBER() / UUID_V4() | 인메모리 원자적 시퀀스 채번 (타깃 PK 고유성 보장) |
| Masking | MASK_PHONE(PHONE) / MASK_EMAIL(EMAIL) | 개인정보보호법 준수 인라인 마스킹 (가명정보 처리) |
| Timestamp | KST_NOW() | 한국 표준시(KST, UTC+9) 기반 적재 일시 자동 주입 |
| Math / Expr | ROUND(TOTAL_AMOUNT * 0.1, 0) | 부가세 10% 자동 산정 및 통화 정규화 |
재사용 표준 매핑 모듈 (Reusable Modules)
수십 개의 파이프라인에서 공통으로 사용되는 비즈니스 매핑을 모듈화하여 단 한 번 정의하고 전사 파이프라인에 상속시킵니다.
무중단 스키마 드리프트 감지 & 원클릭 동기화
운영 중 원천 테이블에 신규 컬럼이 추가되거나 타입이 변경되어 배치가 중단되는 장애를 100% 사전에 예방합니다.
파이프라인 실행 전 또는 정기 주기로 원천 메타데이터와 타깃 스키마를 비교하여 NEW_COLUMN_DETECTED 경고를 발생시키고, 추천 ALTER TABLE ... ADD COLUMN DDL과 매핑 추가 룰을 자동 제안합니다.
대용량 파일 수명주기(File Lifecycle) 관리
SFTP 및 AWS S3 인바운드 파일 유입 시 파일 감지부터 중복 검증, 적재 후 아카이빙까지 전자동 수명주기를 보장합니다.
정밀 관제, Actionable 해결 가이드 & DLQ Replay
이관 중 데이터 유효성 검사 실패 시 단순 오류 코드가 아닌, 엔지니어가 즉시 복구할 수 있는 해결 쿼리와 대안 가이드를 기록하고 1초 만에 재처리합니다.
1. 타깃 컬럼 확장:
ALTER TABLE MODIFY cust_contact VARCHAR(25);2. 인라인 정규화 연산:
REGEXP_REPLACE(cust_contact, '[^0-9]', '') 적용 후 DLQ 1초 Replay!
자주 묻는 질문
Q. 원천 DB에 부하를 주지 않고 실시간으로 데이터를 가져올 수 있나요?
네, DataBridge Pro는 테이블 직접 SELECT 풀스캔 대신 오라클 Redo Log, MySQL 바이너리 로그, PostgreSQL WAL 로그를 스트리밍하는 Zero-Copy 실시간 CDC 엔진을 내장하여 원천 DB의 CPU/메모리 부하를 1% 미만으로 최소화합니다.
Q. 기존에 작성한 표준 매핑 모듈을 수정하면 파이프라인에 즉시 반영되나요?
네, 매핑 모듈 수정 시 cascade=true 옵션이 기본 활성화되어 해당 모듈을 상속받은 모든 운영 파이프라인의 매핑 룰이 1초 만에 중앙 집중식으로 자동 연쇄 동기화됩니다.
Q. 파일 처리 시 네트워크 단절 등으로 파일이 중간에 끊기면 어떻게 되나요?
수신 완료 시점의 SHA-256 체크섬을 검증하여 파일 전송이 비정상 종료되었을 경우 적재를 차단하고 안전 큐(DLQ)로 라우팅하여 불완전한 데이터의 타깃 오염을 100% 방지합니다.