정의
Fraud Prevention(부정거래 방지) 는 이커머스와 DTC 브랜드가 결제 단계에서 발생하는 의심 거래를 사전에 탐지하고 차단하는 리스크 관리 체계입니다. 단순히 도난 카드만 걸러내는 것이 아니라, 계정 탈취(ATO), 환불 악용(Refund Abuse), 프로모션 어뷰징, 봇에 의한 재고 선점까지 포함합니다.
핵심은 룰 기반(Rule-based) 필터와 머신러닝(ML) 스코어링을 결합해, 정상 고객의 결제 성공률을 떨어뜨리지 않으면서 손실을 최소화하는 것입니다. 한국 DTC 시장에서는 PG사(토스페이먼츠, 나이스페이, KG이니시스 등)와 자체 리스크 엔진을 병행 운영하는 경우가 일반적입니다.
비유로 이해하기
부정거래 방지는 공항 보안검색대와 같습니다.
- 룰 기반 = 금속탐지기. 정해진 기준(예: 해외 IP + 고액 결제 + 신규 계정)에 걸리면 무조건 경보.
- ML 스코어링 = 행동 분석 요원. 탑승객의 동선, 표정, 예약 패턴을 종합해 “이 사람이 위험한가”를 0~100 점수로 판단.
- 3DS/추가 인증 = 추가 신분 확인. 의심될 때만 요구해서 정상 고객의 이탈을 줄임.
즉, 모든 고객을 의심하되 정상 고객은 빠르게 통과시키는 것이 핵심입니다.
공식
부정거래 방지의 기본 손익 구조는 다음과 같습니다.
순이익 = 총매출 − (상품원가 + 물류비 + PG수수료 + 부정거래손실 + 운영비)
여기서 부정거래손실은:
부정거래손실 = (차지백 건수 × 평균 차지백 금액)
+ (환불 어뷰징 손실)
+ (재고 선점 기회비용)
그리고 리스크 엔진의 성능 지표:
Precision = 실제 사기 거래 / 차단된 거래 Recall = 차단된 사기 거래 / 전체 사기 거래 FPR(False Positive Rate) = 정상 거래 차단 수 / 전체 정상 거래 수
목표는 Recall을 높이면서 FPR을 1% 이하로 유지하는 것입니다. FPR이 1%만 올라가도 월 10억 원 매출 브랜드에서는 연간 수억 원의 기회비용이 발생합니다.
룰 기반 vs ML 기반 비교
| 항목 | 룰 기반 (Rule-based) | ML 기반 (ML Scoring) |
|---|---|---|
| 작동 방식 | 조건문 (IF-THEN) | 확률 점수 (0~100) |
| 장점 | 즉시 적용, 설명 가능, 규제 대응 용이 | 신종 패턴 탐지, 정상 고객 오탐 감소 |
| 단점 | 우회 쉬움, 유지보수 부담 | 블랙박스, 데이터 의존, 초기 학습 필요 |
| 적합 상황 | 명확한 사기 패턴, 소규모 | 대량 거래, 복합 패턴 |
| 한국 사례 | 동일 IP 다계정, 명의도용 | 토스·쿠팡 스타일 행동 분석 |
| 평균 탐지율 | 40~60% | 75~90% |
| 평균 FPR | 3~8% | 0.5~2% |
실무에서는 룰로 1차 필터 → ML로 2차 스코어링 → 3DS로 최종 검증하는 3단 구조가 표준입니다.
구체적 데이터 예시
1. 차지백 비율: 글로벌 이커머스 평균 차지백률은 0.6~0.9%이며, 한국 DTC는 0.3~0.5% 수준. 1%를 넘으면 PG사가 계약 해지 또는 담보 예치를 요구합니다.
2. 차지백 1건당 비용: 평균 결제금액의 2.5~3배. 예를 들어 10만 원 결제 건의 차지백은 수수료·물류·CS 포함 약 25~30만 원 손실.
3. ML 도입 효과: 리스크 엔진 도입 후 평균 차지백률 35~50% 감소, 정상 거래 승인율 2~4%p 상승.
적용 시나리오
시나리오 1: 신규 고객 첫 결제
- 가입 5분 이내 + 해외 IP + 고액(50만 원 이상) + 배송지와 청구지 불일치 → ML 점수 85점 → 3DS 인증 요구.
시나리오 2: 프로모션 어뷰징
- 동일 기기에서 10개 계정 생성, 첫 구매 30% 쿠폰 반복 사용 → 디바이스 핑거프린팅으로 차단.
시나리오 3: 환불 악용
- 구매 후 7일 내 90% 환불 요청, 동일 주소 반복 → 블랙리스트 등록 및 수동 검토.
시나리오 4: 재고 선점(Bot)
- 한정판 드롭에서 초당 50건 결제 시도 → 레이트 리밋 + CAPTCHA + 대기열 적용.
흔한 오해
- “차지백만 막으면 된다” → 아닙니다. 환불 어뷰징, 쿠폰 남용, 재고 선점까지 포함해야 진짜 손실이 줄어듭니다.
- “룰만 촘촘하면 된다” → 룰이 많아질수록 정상 고객이 차단됩니다. FPR 1% 상승은 매출 3~5% 하락으로 이어질 수 있습니다.
- “ML은 대기업만 쓴다” → 아니요. 월 거래 1만 건 이상이면 SaaS형 리스크 솔루션(예: Sift, Riskified, 국내사)으로 충분히 ROI가 나옵니다.
- “3DS는 무조건 손해” → 아닙니다. 의심 거래에만 선택 적용하면 승인율을 지키면서 차지백 책임을 PG사로 전가할 수 있습니다.
관련 용어
- Chargeback(차지백): 카드사가 결제를 강제 취소하고 가맹점에 청구하는 절차.
- 3DS (3-D Secure): 추가 인증으로 차지백 책임을 발급사로 이전.
- AVS (Address Verification System): 청구지 주소 검증.
- CVV/CVC: 카드 뒷면 보안코드 검증.
- Device Fingerprinting: 기기·브라우저 고유값으로 다계정 탐지.
- Velocity Check: 동일 카드/IP/계정의 단시간 거래 빈도 제한.
- ATO (Account Takeover): 계정 탈취 후 결제 시도.
- Refund Abuse: 정상 구매 후 반복 환불로 이득 취하는 행위.
부정거래 방지는 매출을 깎는 비용이 아니라, 매출을 지키는 투자입니다. 룰과 ML을 균형 있게 운영하고, FPR을 지표로 관리하는 브랜드만이 DTC 시장에서 안정적인 마진을 유지할 수 있습니다.