이질적 효과
전용 신경망
같은 정책이 누구에게는 약이고 누구에게는 독이다. 개인별 처치효과 \(\tau(x)\)를 배우기 위해 신경망 구조 자체를 인과추론의 정리에 맞춰 설계한 계보 — TARNet, CFRNet, Dragonnet, 그리고 생성모형과 연속형 처치까지. 선택 편향을 직접 만들어 보는 실습이 함께 들어 있다.
"평균 +3점"이 감추고 있는 두 세계
같은 평균효과라도 그 밑의 분포에 따라 정책 결론은 정반대가 된다. 그래서 조건부 효과 \(\tau(x)\)가 필요하다.
보고서의 한 줄: "프로그램의 평균 효과는 +3점입니다"
어떤 교육 지원 프로그램을 평가한 보고서가 올라왔다. 결론은 한 줄이다. 평균적으로 성적이 3점 올랐다. 예산 담당자는 만족하고, 프로그램은 전면 확대가 결정될 참이다. 그런데 이 +3점에는 전혀 다른 두 세계가 숨어 있을 수 있다.
첫 번째 세계에서는 모든 학생이 정확히 +3점을 얻는다. 이 세계라면 전면 확대가 옳다. 두 번째 세계에서는 절반이 +8점을 얻고 나머지 절반은 −2점을 잃는다. 평균은 똑같이 +3이지만, 이 세계에서 옳은 정책은 전면 확대가 아니라 +8인 절반에게만 주고 −2인 절반에게는 주지 않는 것이다. 평균효과 하나로는 두 세계를 구분할 수 없고, 구분하지 못하면 절반의 학생에게 해를 끼치는 정책에 서명하게 된다.
그래서 필요한 것이 개체 특성 \(x\)에 조건을 건 효과, 즉 조건부 평균처치효과(CATE, Conditional Average Treatment Effect)다.
\[ \tau(x) = \mathbb{E}\big[\,Y(1) - Y(0)\;\big|\;X = x\,\big] \]1장에서 본 근본 문제는 여기서도 그대로다. 같은 사람의 \(Y(1)\)과 \(Y(0)\)을 동시에 볼 수 없으므로 \(\tau(x)\)는 어떤 개인에 대해서도 직접 관측되지 않는다. 다만 이번에는 채워야 할 빈칸이 평균 하나가 아니라 \(x\)마다 하나씩, 함수 전체다. 고차원 \(x\)에서 유연한 함수를 배우는 일은 신경망이 잘하는 일이고, 이 장은 그 만남을 다룬다.
이질적 효과 추정은 학술적 사치가 아니라 이미 산업의 표준 문제다. 마케팅에서는 업리프트 모델링(uplift modeling)이라는 이름으로 "쿠폰을 누구에게 보내야 구매가 추가로 발생하는가"를 묻고, 의료에서는 개인화 치료(personalized medicine)라는 이름으로 "이 환자에게 이 약이 듣는가"를 묻는다. 두 질문 모두 예측 문제가 아니라 인과 문제다. 구매 확률이 높은 고객과 쿠폰 때문에 구매가 늘어나는 고객은 다른 집단이며, 전자를 겨냥한 캠페인은 어차피 살 사람에게 할인만 해 주는 결과가 된다.
이 장에서 다루는 방법들이 등장한 2017년 전후는, 딥러닝 커뮤니티가 인과추론을 "자신들의 언어"로 다시 쓰기 시작한 시점이다. 통계학이 준비해 둔 식별 이론(1장의 잠재결과, 이 장의 무교란 가정) 위에, 표현학습이라는 딥러닝의 도구를 얹은 것이 이 계보의 공통 구조다. 두 전통 중 어느 한쪽만 알면 이 방법들은 이해되지 않는다.
생각해 볼 질문
내 연구 주제에서 "평균효과는 유의한데 사실은 부분집단마다 부호가 다를 수 있는" 처치를 하나 떠올려 보자. 그 이질성을 만들어낼 법한 변수 \(x\)는 무엇인가?
출처 Shalit, Johansson & Sontag, "Estimating Individual Treatment Effect: Generalization Bounds and Algorithms", ICML, 2017, arxiv.org/abs/1606.03976 · Curth & van der Schaar, "Nonparametric Estimation of Heterogeneous Treatment Effects", AISTATS, 2021.
두 개의 가정이 전부다
무교란과 겹침. 이 두 가정이 성립해야 신경망이 할 일이 생긴다. 어떤 구조도 이 가정을 대신 채워주지 못한다.
무교란: "양쪽에 영향을 주는 요인을 전부 관측했다"
관측자료에서 처치집단 평균과 대조집단 평균을 그냥 빼면 안 되는 이유는, 처치를 받은 사람들이 애초에 다른 사람들이기 때문이다. 프로그램에 자발적으로 신청한 학생, 의사가 골라서 처방한 환자 — 처치는 동전던지기로 배정되지 않았다.
이 선택 편향을 걷어내기 위해 CATE 추정은 다음 가정을 요구한다.
\[ \{\,Y(1),\,Y(0)\,\}\ \perp\ D \;\big|\; X \qquad \text{(무교란, unconfoundedness)} \]말로 풀면 이렇다. "처치 \(D\)와 결과 \(Y\) 양쪽에 영향을 주는 요인을 우리가 전부 관측해 \(X\)에 담았다." 그렇다면 같은 \(X\)를 가진 사람들 사이에서는 누가 처치를 받았는지가 사실상 동전던지기와 같고, "같은 \(X\)끼리의 비교"가 곧 인과 비교가 된다. 여기에 두 번째 가정이 따라붙는다.
\[ 0 < P(D=1 \mid X=x) < 1 \quad \text{모든 } x \text{에 대해} \qquad \text{(겹침, overlap)} \]어떤 \(x\)에서도 처치받은 사람과 안 받은 사람이 둘 다 존재할 수 있어야 한다는 뜻이다. 특정 유형의 환자가 전원 처방을 받는다면, 그 유형에서 "안 받았을 때"를 알려 줄 데이터 자체가 없다. 아무리 유연한 모형도 데이터가 전혀 없는 영역에서는 외삽을 할 뿐이다.
"데이터가 충분히 크고 모형이 충분히 유연하면 교란은 알아서 처리된다." — 아니다. 편향과 분산을 혼동한 말이다. 표본을 늘리고 모형을 키워서 줄어드는 것은 분산, 즉 추정의 흔들림이다. 관측되지 않은 교란요인이 만드는 것은 편향이며, 편향은 표본 크기의 함수가 아니다. 100만 명의 자료로 추정한 잘못된 값은, 흔들림 없이 정밀하게 잘못된 값일 뿐이다. 오히려 표본이 클수록 신뢰구간이 좁아져 잘못된 값을 더 확신하게 된다.
이 장의 모든 신경망이 하는 일은 무교란 가정 아래에서 "같은 \(X\)끼리 비교"를 고차원에서 잘 수행하는 것이다. 가정 자체를 채워 주는 구조는 이 장에 없고, 다른 어디에도 없다. 관측되지 않은 것에 대한 가정은 데이터로 검증되지 않는다는 1장의 교훈이 여기서도 반복된다.
무교란 가정의 다른 이름들을 알아 두면 문헌 읽기가 편하다. 계량경제학에서는 조건부 독립 가정(CIA) 또는 selection on observables, 역학에서는 교환가능성(exchangeability), 통계학에서는 Rosenbaum과 Rubin의 용어로 strongly ignorable treatment assignment라 부른다. 이름은 다르지만 내용은 같다. 무교란과 겹침을 합친 것이 strong ignorability다.
겹침은 무교란과 달리 데이터로 점검할 수 있는 가정이라는 점이 중요하다. 추정된 성향점수의 분포를 처치군과 대조군에서 겹쳐 그려 보면, 한쪽 꼬리에서 겹침이 무너지는지 눈으로 보인다. 실무에서는 성향점수가 0.02 미만이거나 0.98 초과인 표본을 잘라내는(trimming) 관행이 있는데, 이는 "답할 수 있는 부분집단으로 질문을 좁히는" 행위이므로 추정 대상 자체가 바뀐다는 점을 논문에 명시해야 한다.
반면 무교란은 원리적으로 검증 불가능하다. 그래서 성숙한 응용 논문은 가정을 "믿어 달라"고 쓰는 대신, 깨졌을 때 결론이 얼마나 버티는지를 계산하는 민감도 분석(sensitivity analysis)을 붙인다. 관측 안 된 교란요인이 어느 강도 이상이어야 결론이 뒤집히는지를 정량화하는 것이다. 이 기술은 8장에서 다룬다.
출처 Rosenbaum & Rubin, "The Central Role of the Propensity Score in Observational Studies for Causal Effects", Biometrika 70(1), 1983, doi.org/10.1093/biomet/70.1.41 · Imbens & Rubin, Causal Inference for Statistics, Social, and Biomedical Sciences, Cambridge UP, 2015, 3장.
TARNet: 표현은 공유하고 예측은 분리한다
단일모형은 처치변수를 묻어 버리고, 분리모형은 데이터를 반쪽 낸다. 공유 몸통과 두 개의 머리가 그 사이의 답이다.
공유 몸통 하나, 머리 둘
신경망으로 \(\tau(x)\)를 배우는 가장 순진한 두 가지 방법은 각자 다른 이유로 실패한다. 그 실패의 모양을 정확히 알아야 TARNet의 설계가 필연으로 보인다.
Shalit, Johansson, Sontag의 TARNet(Treatment-Agnostic Representation Network)은 두 실패 사이의 절충이다. 입력 \(X\)를 받아 공유 표현 \(\Phi(X)\)를 만드는 몸통 하나를 두고, 그 위에 처치용·대조용 두 개의 머리를 올린다.
\[ \hat{Y}(1) = h_1(\Phi(X)), \qquad \hat{Y}(0) = h_0(\Phi(X)), \qquad \hat\tau(x) = h_1(\Phi(x)) - h_0(\Phi(x)) \]학습 시 처치 표본 \((x_i, d_i{=}1, y_i)\)의 오차는 \(h_1\)과 \(\Phi\)만 갱신하고, 대조 표본의 오차는 \(h_0\)과 \(\Phi\)만 갱신한다. 결과적으로 데이터가 적은 집단도 몸통이 배운 일반 지식 — "나이와 소득이 결과에 이렇게 작용한다" — 을 공짜로 물려받는다. S-learner의 약점(처치가 묻힘)과 T-learner의 약점(데이터 반쪽, 소수 집단의 분산)을 각각 구조로 해결한 것이다.
"Treatment-Agnostic"이라는 이름이 설계 철학을 요약한다. 몸통 \(\Phi\)는 처치 여부를 입력받지 않는다. 처치에 대한 지식은 오로지 어느 머리로 갈리는가라는 구조적 사실에만 담긴다. 이는 멀티태스크 학습(multi-task learning)의 고전적 설계 — 과제 간 공통 지식은 공유층에, 과제 고유 지식은 과제별 층에 — 를 인과추론에 이식한 것으로 읽을 수 있다. 처치 결과 예측과 대조 결과 예측을 서로 도움을 주고받는 두 개의 과제로 본 것이다.
공유의 양은 사실 연속적인 설계 변수다. 몸통을 아예 없애면 T-learner이고, 머리를 없애고 \(D\)를 입력에 넣으면 S-learner다. TARNet은 그 스펙트럼의 한 점일 뿐이며, 몸통과 머리의 깊이 배분에 따라 무수한 변형이 존재한다. §6에서 보겠지만 어느 배분이 좋은지는 데이터의 성질 — 효과 이질성의 크기, 표본 불균형 — 에 따라 달라진다.
생각해 볼 질문
처치집단이 전체의 5%뿐인 데이터를 생각해 보자. T-learner의 \(\hat\mu_1\)과 TARNet의 \(h_1\)은 둘 다 그 5%의 손실로만 학습되는데, 왜 TARNet 쪽이 덜 흔들리는가? (힌트: \(h_1\)이 받는 입력은 원시 \(x\)가 아니다.)
출처 Shalit, Johansson & Sontag, "Estimating Individual Treatment Effect: Generalization Bounds and Algorithms", ICML, 2017, arxiv.org/abs/1606.03976
CFRNet: 표현 공간에서 두 집단을 겹치게 만든다
선택 편향이 심하면 표현 공간에서도 처치군과 대조군이 서로 다른 영역에 몰린다. 같은 논문의 두 번째 기여 CFRNet은 이 불균형 자체에 벌점을 건다.
문제의 핵심은 외삽이다. \(\hat\tau(x)\)를 계산하려면 처치받은 사람의 \(x\)에서도 \(h_0(\Phi(x))\)가 필요하다. 그런데 \(h_0\)은 대조 표본으로만 학습되었으므로, 처치군이 몰려 사는 표현 공간 영역에서는 훈련 데이터를 본 적이 없다. 그 영역에서의 \(h_0\) 출력은 통째로 외삽이고, \(\hat\tau\)의 절반이 외삽 위에 서게 된다.
CFRNet(Counterfactual Regression Network)은 손실에 항을 하나 추가한다. 처치군의 표현 분포 \(p(\Phi \mid D{=}1)\)과 대조군의 표현 분포 \(p(\Phi \mid D{=}0)\) 사이의 거리를 적분확률거리(IPM) — 구체적으로는 MMD 또는 Wasserstein 거리 — 로 재서 벌점으로 거는 것이다.
\[ \min_{\Phi,\,h_0,\,h_1}\ \underbrace{\text{예측 손실}}_{\text{관측 결과를 맞혀라}} \;+\; \alpha\cdot \underbrace{\text{IPM}\big(p(\Phi\mid D{=}1),\; p(\Phi\mid D{=}0)\big)}_{\text{표현 공간에서 두 집단을 겹치게 하라}} \]이 벌점은 이론적 뒷받침이 있다. 저자들은 CATE 오차(정확히는 그 기대제곱오차인 PEHE)가 "관측 결과 예측오차 + 표현 불균형"의 합으로 상한된다는 일반화 한계를 증명했다. 벌점을 줄이는 것이 상한의 두 번째 항을 직접 줄이는 행위이므로, 균형 벌점은 휴리스틱이 아니라 상한 최소화 전략이다.
단, 균형은 공짜가 아니다. \(\alpha\)를 무한히 키워 두 분포를 완전히 겹치게 만들면, \(\Phi\)는 처치 배정과 상관된 정보를 전부 지워야 한다. 그런데 교란요인은 정의상 처치와도 결과와도 상관된 변수다. 즉 과도한 균형은 결과 예측에 필요한 정보까지 함께 지우고, 상한의 첫 항인 예측오차가 커진다. \(\alpha\)는 외삽 위험과 정보 손실 사이의 교환비율을 정하는 조율 대상이지, 클수록 좋은 값이 아니다.
IPM 벌점의 발상은 도메인 적응(domain adaptation)에서 왔다. "훈련 분포와 시험 분포가 다를 때 표현을 정렬한다"는 문제 틀에서, 처치군을 소스 도메인, 대조군을 타깃 도메인으로 읽으면 정확히 같은 문제가 된다. 반사실 예측이란 결국 "처치군 분포에서 훈련한 \(h_0\)을 대조군 분포에 적용하는" 공변량 이동(covariate shift) 문제라는 통찰이며, 이 번역이 논문의 핵심 기여다.
거리 척도의 선택에도 함의가 있다. MMD는 커널 평균의 차이라 계산이 가볍고, Wasserstein은 분포의 기하를 더 충실히 반영하는 대신 무겁다. 실험적으로 두 변형(CFR-MMD, CFR-Wass)의 성능 차이는 데이터에 따라 갈리는데, 이 사실 자체가 §6의 결론 — 세부 설계의 우열은 데이터 성질에 의존한다 — 의 예고편이다.
후속 연구들은 "모든 표본에 같은 강도로 균형을 강제할 필요가 있는가"를 물었다. 성향점수가 극단적인 표본에만 가중해 균형을 걸거나, 균형 대신 가중치를 학습하는 변형들이 나왔다. 균형-정보 상충을 표본 수준에서 더 정밀하게 관리하려는 시도들로, 문제의식은 모두 위의 상충에서 출발한다.
출처 Shalit, Johansson & Sontag, ICML, 2017, arxiv.org/abs/1606.03976 · Johansson, Shalit & Sontag, "Learning Representations for Counterfactual Inference", ICML, 2016.
Dragonnet: 1983년의 정리를 구조로 번역하다
성향점수 하나면 교란 조정에 충분하다는 고전적 결과를, 세 번째 머리라는 구조로 옮겼다. 정보를 버려서 이긴다.
처치 예측에 필요한 정보만 증류하라
출발점은 Rosenbaum과 Rubin(1983)의 성향점수 충분성이다. 무교란 가정 하에서는 수백 차원의 \(X\) 전체를 조정할 필요가 없다. 1차원 숫자인 성향점수 \(g(x) = P(D{=}1 \mid X{=}x)\) 하나만 조정하면 충분하다.
이유는 이렇다. 처치 배정에 관한 한, \(X\)가 가진 모든 정보는 \(g(x)\)라는 한 숫자에 압축되어 있다. 같은 \(g(x)\)를 가진 사람들 사이에서 처치는 다시 동전던지기가 되므로, 교란 조정에는 이 압축본이면 족하다. 뒤집어 말하면, \(X\)에서 처치 예측과 무관한 정보는 교란 조정에 쓸모가 없다.
Shi, Blei, Veitch의 Dragonnet은 이 정리를 손실함수가 아니라 구조로 번역했다. TARNet의 몸통에 세 번째 머리 — 성향점수를 예측하는 머리 — 를 추가하고, 세 손실을 함께 최소화한다.
\[ \mathcal{L} = \underbrace{\sum_i \big(y_i - h_{d_i}(\Phi(x_i))\big)^2}_{\text{결과 예측 (두 머리)}} \;+\; \beta \underbrace{\sum_i \text{CrossEntropy}\big(d_i,\; g(\Phi(x_i))\big)}_{\text{처치 예측 (세 번째 머리)}} \]세 번째 머리의 손실이 몸통에 흘러들면, \(\Phi\)는 처치를 예측하는 데 유용한 방향의 정보를 우선적으로 보존하도록 압력을 받는다. 결과 예측에는 유용하지만 처치 배정과 무관한 변수 — 결과의 순수 예측변수 — 는 상대적으로 눌린다. 교란 조정에 필요한 정보만 증류된 표현이 만들어지는 것이다.
주목할 것은 이것이 순수 예측 성능 기준으로는 손해라는 점이다. 결과를 잘 맞히는 정보를 일부러 버리기 때문이다. 그런데도 CATE 추정에서는 이득이 된다. 저자들의 실험에서 이 이득은 표본이 작을수록 컸다. 정보를 버리는 대가로 모형이 단순해지고 분산이 줄기 때문이다. 표본이 충분히 크면 분산은 어차피 작으므로 버리는 쪽의 이점이 옅어진다 — 편향-분산 트레이드오프가 구조 선택의 언어로 나타난 것이다.
왜 "결과의 순수 예측변수"를 버리는 것이 이득인지 한 번 더 곱씹을 가치가 있다. 예를 들어 학생의 유전적 재능이 성적에는 크게 작용하지만 프로그램 신청과는 무관하다고 하자. 이 변수는 교란요인이 아니므로 조정할 필요가 없다. 조정에 넣어 봐야 편향은 그대로인데, 모형이 그 변수까지 배우느라 자유도를 쓰면서 분산만 커진다. 성향점수 충분성은 "무엇을 조정해야 하는가"에 대한 답인 동시에 "무엇을 조정하지 않아도 되는가"에 대한 답이며, Dragonnet은 후자를 구조로 강제한 것이다. 다만 처치 예측과 무관해 보이는 변수가 실은 약한 교란요인일 가능성도 있으므로, \(\beta\)를 극단으로 키우는 것은 위험하다.
논문의 두 번째 기여인 targeted regularization은 여기서 반 발짝만 소개한다. 준모수 이론에는 "평균효과 추정치가 1차 편향을 스스로 지우려면 만족해야 하는 조건"(효율적 영향함수의 추정방정식)이 있고, 7장의 TMLE는 학습이 끝난 모형을 사후에 그 조건에 맞게 미세조정한다. targeted regularization은 그 사후 조정을 학습 중의 추가 손실항으로 이식해, 모형이 애초에 그 조건을 근사적으로 만족한 채 수렴하도록 유도한다. 왜 그 조건이 편향을 지우는지는 7장에서 TMLE를 배우고 나면 완전히 이해된다. 지금은 "Dragonnet의 세 번째 머리(성향점수)가 있어야 이 항을 계산할 수 있다"는 연결만 기억해 두면 된다.
생각해 볼 질문
Dragonnet의 논리를 뒤집으면 이런 질문이 된다. "결과와는 무관하고 처치와만 상관된 변수(도구변수 성격의 변수)"가 \(X\)에 섞여 있다면, 성향점수 머리는 그 변수를 열심히 보존할 것이다. 이것은 CATE 추정에 도움이 되는가, 해가 되는가?
출처 Shi, Blei & Veitch, "Adapting Neural Networks for the Estimation of Treatment Effects", NeurIPS, 2019, arxiv.org/abs/1906.02120 · Rosenbaum & Rubin, Biometrika 70(1), 1983, doi.org/10.1093/biomet/70.1.41
생성모형 계열: GANITE와 CEVAE
빈칸을 채우는 대신 빈칸을 만들어내겠다는 발상, 그리고 무교란 가정 자체를 완화해 보려는 발상. 둘 다 대가가 있다.
판별기를 속이는 반사실
Yoon, Jordon, van der Schaar의 발상은 대담하다. 관측되지 않은 반사실 결과를 GAN의 생성기가 직접 만들어낸다.
구조는 2단이다. 1단에서 생성기는 각 표본의 관측 결과 \(y_i\)를 받아, 관측되지 않은 쪽 결과 \(\tilde y_i\)를 생성해 벡터를 완성한다. 판별기의 임무는 완성된 벡터 \((y_{\text{관측}}, \tilde y_{\text{생성}})\)을 받아 어느 성분이 실제 관측인지 맞히는 것이다. 생성기가 판별기를 완전히 속이는 데 성공하면, 생성된 반사실은 관측 결과와 통계적으로 구별 불가능해진다 — 즉 "그럴듯한" 반사실이 된다. 이렇게 모든 표본의 \(Y(1)\)과 \(Y(0)\)이 채워진 완전 데이터 위에서, 2단의 추론 네트워크가 \(\tau(x)\)를 지도학습으로 배운다.
개념적 매력과 별개로 실무의 벽은 GAN 일반의 문제와 같다. 학습 불안정성 — 생성기와 판별기의 균형이 깨지면 모드 붕괴나 진동이 일어나고, 시드와 하이퍼파라미터에 따라 결과가 크게 출렁인다. 예측 오차처럼 직접 검증할 수 있는 목표가 없는 인과 설정에서는 "학습이 잘 됐는지"를 판단할 기준 자체가 약하다는 점이 불안정성을 더 뼈아프게 만든다.
"판별기를 속이면 그럴듯하다"는 논리에는 미묘한 한계가 있다. 판별기가 보증하는 것은 생성된 반사실의 분포가 관측 분포와 구별되지 않는다는 것이지, 개별 표본의 반사실이 맞다는 것이 아니다. 분포 수준의 그럴듯함과 개체 수준의 정확함 사이의 간극은 GAN으로 메워지지 않으며, 결국 무교란 가정이 그 간극을 메운다. GANITE 역시 §1의 가정 위에 서 있는 방법이지, 가정을 우회하는 방법이 아니라는 점을 놓치기 쉽다.
그럼에도 이 접근이 남긴 유산은 있다. "반사실을 명시적으로 생성하고 그 품질을 적대적으로 검증한다"는 틀은 이후 시계열 반사실 생성, 데이터 증강 기반 인과 추정 등으로 이어졌다. 발상의 계보로서 알아 둘 가치가 있는 방법이다.
출처 Yoon, Jordon & van der Schaar, "GANITE: Estimation of Individualized Treatment Effects Using Generative Adversarial Nets", ICLR, 2018.
교란요인이 완전히 관측되지 않았다면
Louizos 등의 CEVAE는 이 장에서 유일하게 무교란 가정 자체를 완화해 보려는 시도다. 진짜 교란요인은 숨어 있고, 우리가 관측한 것은 그 대리변수뿐이라는 설정에서 출발한다.
예를 들어 진짜 교란요인이 사회경제적 지위 \(Z\)라 하자. \(Z\)는 어떤 조사에도 직접 기록되지 않는다. 대신 소득, 우편번호, 학력 같은 관측변수 \(X\)가 \(Z\)의 잡음 섞인 대리변수(proxy)로 존재한다. 이때 \(X\)를 그냥 조정하는 것은 정답이 아니다. 잡음 때문에 \(Z\)의 효과가 덜 걷힌다(측정오차에 의한 잔여 교란). CEVAE는 변분오토인코더(VAE)로 잠재 교란요인 \(Z\)의 사후분포 \(p(z \mid x, d, y)\)를 추론하고, 복원된 \(Z\)를 조정에 사용한다. 대리변수가 여럿이면 각각의 잡음이 서로 다른 방향으로 어긋나므로, 숨은 \(Z\)를 삼각측량할 수 있다는 직관이다.
다만 이 우아한 그림에는 후속 비판이 붙어 있다. VAE가 복원한 잠재변수가 진짜 교란요인과 일치한다는 보장(식별성)은 일반적으로 없다. 잠재변수 모형은 관측 분포를 똑같이 설명하는 서로 다른 \(Z\)를 무수히 허용하며, 그중 어느 것이 복원될지는 신경망의 귀납적 편향에 달려 있다. 식별이 실제로 성립하려면 대리변수의 구조에 대한 별도의 강한 가정이 필요하다는 것이 이후 이론 연구들의 결론이므로, CEVAE의 결과는 "무교란 없이도 된다"가 아니라 "무교란을 다른 가정으로 바꿨다"로 읽어야 한다.
CEVAE가 제기한 문제의식 자체는 정당하고 중요하다. 실무 데이터에서 우리가 가진 \(X\)는 거의 항상 진짜 교란 기제의 불완전한 그림자다. 문제는 해법의 보증 범위다. "관측 분포가 같으면 인과 결론도 같아야 한다"는 식별의 기준으로 보면, 잠재변수의 사후분포를 잘 맞히는 것과 인과효과를 맞히는 것 사이에는 원리적 간극이 있다. 이 간극을 정면으로 다룬 근접 대리변수(proximal causal inference) 계열 — 어떤 조건의 대리변수 쌍이 있으면 숨은 교란 하에서도 식별이 성립하는가 — 이 이후 발전했고, 이는 "가정을 명시하고 그 대가를 계산한다"는 이 강의 전체의 태도와 맞닿아 있다.
수업의 관점에서 CEVAE의 교훈은 이것이다. 모형이 정교해진다고 식별 문제가 사라지지 않는다. VAE라는 강력한 도구를 썼지만, 그 도구가 한 일은 가정을 없앤 것이 아니라 가정의 위치를 옮긴 것이다. 어떤 방법을 만나든 "이 방법의 식별 가정은 무엇인가"를 먼저 묻는 습관이 이 장에서 가장 오래 남을 기술이다.
출처 Louizos, Shalit, Mooij, Sontag, Zemel & Welling, "Causal Effect Inference with Deep Latent-Variable Models", NeurIPS, 2017, arxiv.org/abs/1705.08821
연속형 처치: 용량-반응 곡선
추정 대상이 두 값의 차이에서 곡선 전체로 바뀐다. 두 머리 설계는 더 이상 통하지 않고, 새로운 구조가 필요하다.
이어붙이면 묻히고, 쪼개면 끊긴다
투약 용량, 보조금 액수, 광고 노출 시간 — 처치가 연속량 \(d\)이면 추정 대상은 용량-반응 곡선(dose-response curve)이 된다.
\[ \mu(x, d) = \mathbb{E}\big[\,Y(d)\;\big|\;X = x\,\big] \]TARNet식 "처치 수준별 머리"는 그대로 쓸 수 없다. 연속 \(d\)의 값은 무한히 많으므로 머리를 무한히 둘 수 없다. 그렇다고 가장 단순한 해법 — \(d\)를 입력 벡터에 이어붙여 \(\hat\mu(x,d)\)를 학습 — 으로 돌아가면, S-learner의 실패가 더 심한 형태로 재발한다. 수백 차원 \(x\) 옆에 붙은 1차원 \(d\)의 영향이 학습 과정에서 묻혀, 추정된 곡선이 \(d\) 방향으로 밋밋해지는 것이다. 용량을 바꿔도 반응이 거의 안 변하는 것처럼 보이는 곡선은 용량 설계에 쓸모가 없다.
두 구조가 이 문제에 답했다.
VCNet의 발상 — 파라미터를 조건 변수의 함수로 정의하는 varying coefficient 구조 — 는 통계학의 가변계수 모형을 신경망에 이식한 것이다. "\(d\)가 입력의 한 성분이 아니라 모형 자체를 지정하는 좌표가 되게 하라"는 한 문장이 설계의 전부를 요약한다. 같은 논문은 Dragonnet의 targeted regularization을 연속 처치로 일반화한 functional targeted regularization도 제안해, 곡선 전체에 대한 편향 보정까지 다뤘다.
연속형 처치에서는 §1의 가정들도 연속 버전으로 바뀐다. 성향점수는 조건부 밀도 \(g(d \mid x)\)(generalized propensity score)가 되고, 겹침은 "모든 \(x\)에서 모든 용량 \(d\)가 일어날 밀도가 0이 아니다"가 된다. 이 연속 겹침은 이진 겹침보다 훨씬 깨지기 쉽다. 의사가 중증 환자에게만 고용량을 처방한다면, 경증 환자의 고용량 구간은 데이터에 존재하지 않고 그 영역의 곡선은 전부 외삽이다. 곡선을 보고할 때는 \(x\)별로 실제 관측된 용량 범위를 함께 보고하는 것이 정직한 관행이다.
구간을 나누는 DRNet식 접근과 매끄러움을 강제하는 VCNet식 접근의 대비는 통계학의 오래된 대립 — 히스토그램 대 스플라인 — 의 재연이기도 하다. 참 곡선에 실제로 꺾임(예: 역치 효과)이 있다면 매끄러움의 강제는 오히려 편향이 된다. 구조가 보장하는 성질은 언제나 "참이 그 성질을 가질 때만" 공짜라는 점에서, 이것도 결국 귀납적 편향의 선택이다.
출처 Schwab, Linhardt, Bauer, Buhmann & Karlen, "Learning Counterfactual Representations for Estimating Individual Dose-Response Curves", AAAI, 2020 · Nie, Ye, Liu & Nicolae, "VCNet and Functional Targeted Regularization for Learning Causal Effects of Continuous Treatments", ICLR, 2021.
구조 선택의 지침: 항상 이기는 구조는 없다
구조들의 우열은 데이터의 성질이 정한다. 벤치마크 순위표 하나로 방법을 고르는 관행이 왜 위험한지까지.
귀납적 편향의 언어로 다시 읽기
Curth와 van der Schaar는 이 장의 구조들을 개별 발명품이 아니라 귀납적 편향의 선택지로 정리했다. 결론은 겸손하고 실용적이다. 항상 이기는 구조는 없다.
유불리를 가르는 축은 크게 둘이다.
- 효과 이질성의 크기. \(\tau(x)\)가 단순하거나 거의 상수이면 — 두 잠재결과 함수 \(\mu_1, \mu_0\)이 거의 평행이면 — 공유를 늘린 구조가 이긴다. 공유는 "두 함수가 닮았다"는 가정이고, 그 가정이 참일 때 데이터를 두 배로 쓰는 효과를 내기 때문이다. 반대로 두 함수의 모양이 크게 다르면 공유는 족쇄가 되고 분리를 늘린 구조가 낫다.
- 처치·대조 표본의 불균형. 한쪽 집단이 작을수록 공유의 가치가 커진다. 작은 집단이 큰 집단의 지식을 물려받는 통로가 공유층이기 때문이다. Dragonnet의 소표본 이득(§3)도 같은 원리의 다른 표현이다.
이 관점에서 보면 S-learner, T-learner, TARNet, Dragonnet은 서로 다른 알고리즘이라기보다 같은 스펙트럼 위의 다른 지점들이다. "어느 방법이 최고인가"는 잘못 던져진 질문이고, "내 데이터의 이질성과 불균형은 어느 지점을 지지하는가"가 옳은 질문이다.
"IHDP 벤치마크에서 1위였으니 이 구조가 우월하다." — 이 서술은 피해야 한다. IHDP는 실제 실험 데이터에 특정한 모의 결과함수를 심어 만든 준합성 벤치마크이며, 그 생성 방식이 특정 유형의 이질성(특정한 비선형성과 불균형)을 갖도록 설계되어 있다. 순위는 그 생성 설정에서의 순위일 뿐, 설정을 바꾸면 뒤집힌다는 것이 Curth와 van der Schaar가 실증한 내용이다. 참값을 아는 실제 데이터는 존재하지 않으므로 CATE 방법의 평가는 언제나 모의 설정 의존적이고, 따라서 벤치마크 1위라는 문장은 방법 선택의 근거로 약하다.
추정된 \(\hat\tau(x)\)로 "효과 상위 20%에게만 처치"를 설계하고 싶어진다. 이때 점추정만 보는 것은 두 가지 함정을 밟는다. 첫째, 불확실성. \(\hat\tau(x)\)는 추정치이고 영역에 따라 오차가 크게 다르다(겹침이 약한 영역일수록 크다). 신뢰구간이나 등각예측(conformal prediction) 기반 구간을 함께 보고해야 한다. 둘째, 승자의 저주. 추정치가 큰 순서로 고르면, 참효과가 커서 뽑힌 개체와 오차가 양의 방향으로 튀어 뽑힌 개체가 섞인다. 선택된 집단의 추정 효과는 체계적으로 과대평가되며, 정책 시행 후 "예상보다 효과가 작은" 실망은 거의 예정된 결과다.
승자의 저주는 CATE만의 문제가 아니라 "추정 후 선택(selection after estimation)"이 있는 모든 곳의 문제다. 유전체학의 유의 유전자 선별, 다국면 임상시험의 용량 선택에서 같은 현상이 오래 연구되었다. 처방도 이식할 수 있다. 선택에 쓴 데이터와 효과를 보고하는 데이터를 분리하거나(표본 분할), 선택 편향을 보정하는 축소추정을 쓰는 것이다. 정책 설계 관점에서는 아예 목표를 바꿔 "누구에게 줄 것인가"라는 정책함수를 직접 학습하는 정책학습(policy learning) 계열도 있으며, 이는 개별 \(\tau(x)\)의 정확한 추정보다 약한 요구조건으로 성립한다.
실무 순서로 요약하면 이렇다. ① 겹침을 먼저 점검하고, ② 데이터의 이질성·불균형을 근거로 구조를 고르되 하나에 걸지 말고 복수 구조의 결과를 비교하며, ③ 구간과 함께 보고하고, ④ 대상 선정에는 표본 분할이나 축소를 쓴다. 구조의 화려함보다 이 절차의 정직함이 결과의 신뢰를 결정한다.
출처 Curth & van der Schaar, "Nonparametric Estimation of Heterogeneous Treatment Effects: From Theory to Learning Algorithms", AISTATS, 2021.
선택 편향 실험실
교란은 처치에도 결과에도 영향을 줄 때만 생긴다. 두 개의 손잡이를 따로, 또 같이 돌려 이 정의를 몸으로 확인한다.
순진한 평균 차이는 언제, 정확히 얼마나 틀리는가
한 줄 목표: 편향이 생기려면 처치 배정 왜곡(s)과 결과에 대한 영향(b)이 둘 다 있어야 함을, 그리고 편향의 크기가 정확히 (처치군 평균 \(x\) − 대조군 평균 \(x\)) × b임을 눈으로 확인한다.
설정: 1차원 공변량 \(x \in [0, 10]\) 위에서, 성향점수 \(p(x) = 1/(1+e^{-s(x-5)})\)로 처치가 배정된다. 결과는 \(y(0) = b\,x\), \(y(1) = b\,x + \tau\)로 결정된다(잡음 없는 기댓값의 세계). "순진한 평균 차이" \(\mathbb{E}[y \mid D{=}1] - \mathbb{E}[y \mid D{=}0]\)를 격자 위 가중평균으로 계산해 참효과 \(\tau\)와 비교한다.
선택 편향 실험실
위 그림: \(x\)축 위의 처치군 분포(붉은 음영)와 대조군 분포(청록 음영), 세로 점선은 각 집단의 평균 \(x\). 아래 그림: 참효과 \(\tau\) 대 순진한 추정의 막대 비교.
조작 안내 — ① s를 0으로 놓아라(무작위 배정). 두 분포가 완전히 겹치고 순진한 차이 = 참효과가 된다. ② s를 키워 보라. 붉은 분포가 오른쪽으로, 청록 분포가 왼쪽으로 쏠리며 두 집단의 평균 \(x\)가 벌어진다. ③ 그 상태에서 b를 0으로 내려 보라. 분포는 쏠린 채 그대로인데 편향이 사라진다. ④ s와 b를 함께 키워 편향이 곱으로 커지는 것을 보라.
관찰 포인트 — 편향 = (처치군 평균 \(x\) − 대조군 평균 \(x\)) × b 라는 등식이 readout에서 소수점까지 일치하면 성공. 특히 ③이 이 실습의 심장이다. 처치 배정이 아무리 왜곡되어도(s가 커도), 그 왜곡 변수가 결과에 영향을 주지 않으면(b=0) 편향은 정확히 0이다. 교란요인의 정의 — 처치에도 결과에도 영향을 주는 변수 — 가 왜 그렇게 쓰여 있는지가 여기서 몸으로 확인된다. 거꾸로 §2의 CFRNet이 왜 "분포 겹침"에 벌점을 거는지도 위 그림이 보여준다: s가 클 때 벌어지는 두 음영의 간극이 바로 그 벌점의 대상이다.
이 실험실의 편향 공식이 정확히 성립하는 것은 \(y(0)\)이 \(x\)의 선형함수이고 효과가 상수이기 때문이다. 일반화하면, 순진한 차이의 편향은 두 집단 간 \(\mathbb{E}[y(0)]\)의 차이 — 즉 "처치가 없었어도 두 집단이 달랐을 만큼" — 이며, 1장의 선택 편향 분해와 같은 항이다. 선형 세계에서는 그 항이 (평균 공변량 차이 × 기울기)로 깔끔하게 인수분해되는 것뿐이다. 신경망이 하는 일을 이 그림 위에서 말하면, "같은 \(x\)끼리 비교"란 각 세로선 위에서 붉은 점과 청록 점을 비교하는 것이고, 그것이 가능한 조건이 겹침 — 모든 세로선 위에 양쪽 음영이 다 있음 — 이다.
s를 최대로 올려 보면 겹침의 붕괴도 미리 볼 수 있다. \(x<3\)에서 붉은 음영이, \(x>7\)에서 청록 음영이 거의 사라진다. 실제 추정에서는 그 영역의 \(\hat\tau(x)\)가 통째로 외삽이 된다. 이 시뮬레이터는 기댓값의 세계라 외삽의 벌을 보여주지 않지만, 유한 표본의 세계에서는 그 영역의 추정치가 가장 크게 흔들리고 등각예측 구간이 가장 넓게 나오는 곳이 바로 거기다.
퀴즈와 핵심 정리
먼저 스스로 답한 뒤 펼쳐서 확인하라.
퀴즈
무교란 가정 \(\{Y(1),Y(0)\} \perp D \mid X\)를 수식 없이 두 문장으로 풀어 말하고, 이 가정이 데이터로 검증 가능한지 답하라.
TARNet의 "공유 몸통 + 두 머리" 구조는 S-learner와 T-learner의 약점을 각각 어떻게 해결하는가?
CFRNet의 균형 벌점 강도 \(\alpha\)를 매우 크게 하면 표현 공간에서 두 집단이 완전히 겹친다. 그런데 왜 \(\alpha\)는 클수록 좋은 값이 아닌가?
Dragonnet은 결과 예측에 유용한 정보 일부를 일부러 버리는 구조다. 정보를 버리는데 왜 CATE 추정이 오히려 좋아질 수 있으며, 그 이득은 어떤 조건에서 큰가?
하나. 신경망은 교란을 처리해 주지 않는다. 큰 데이터와 유연한 모형이 줄이는 것은 분산이고, 숨은 교란이 만드는 것은 편향이다. 모든 구조는 무교란·겹침 가정 아래에서만 의미가 있다.
둘. 이 장의 구조들은 인과추론의 정리를 설계로 번역한 것이다. TARNet은 공유-분리의 절충을, CFRNet은 일반화 한계를, Dragonnet은 성향점수 충분성을, VCNet은 곡선의 연속성을 구조에 박았다. 구조는 장식이 아니라 가정의 물화다.
셋. 항상 이기는 구조는 없다. 우열은 효과 이질성의 크기와 표본 불균형이 정하며, 벤치마크 순위표는 그 생성 설정 안에서의 순위일 뿐이다. 그리고 어떤 구조를 쓰든, 점추정만으로 정책 대상을 고르면 불확실성과 승자의 저주가 기다린다.
참고문헌
연도는 학회 출간 기준. 링크는 원문 확인이 가능한 것만 달았다.
구조 설계 계열
- Shalit, U., Johansson, F. D., & Sontag, D. (2017). Estimating Individual Treatment Effect: Generalization Bounds and Algorithms. ICML. arxiv.org/abs/1606.03976 — TARNet과 CFRNet, 균형 표현의 일반화 한계.
- Shi, C., Blei, D., & Veitch, V. (2019). Adapting Neural Networks for the Estimation of Treatment Effects. NeurIPS. arxiv.org/abs/1906.02120 — Dragonnet과 targeted regularization.
- Schwab, P., Linhardt, L., Bauer, S., Buhmann, J., & Karlen, W. (2020). Learning Counterfactual Representations for Estimating Individual Dose-Response Curves. AAAI. — DRNet, 구간별 머리.
- Nie, L., Ye, M., Liu, Q., & Nicolae, D. (2021). VCNet and Functional Targeted Regularization for Learning Causal Effects of Continuous Treatments. ICLR. — 가변계수 구조와 연속 처치의 편향 보정.
생성모형 계열
- Yoon, J., Jordon, J., & van der Schaar, M. (2018). GANITE: Estimation of Individualized Treatment Effects Using Generative Adversarial Nets. ICLR.
- Louizos, C., Shalit, U., Mooij, J., Sontag, D., Zemel, R., & Welling, M. (2017). Causal Effect Inference with Deep Latent-Variable Models. NeurIPS. arxiv.org/abs/1705.08821 — CEVAE.
이론적 기초와 비교 연구
- Rosenbaum, P. R., & Rubin, D. B. (1983). The Central Role of the Propensity Score in Observational Studies for Causal Effects. Biometrika, 70(1), 41–55. doi.org/10.1093/biomet/70.1.41 — 성향점수 충분성.
- Curth, A., & van der Schaar, M. (2021). Nonparametric Estimation of Heterogeneous Treatment Effects: From Theory to Learning Algorithms. AISTATS. — 구조들의 귀납적 편향 체계 비교.
인용 원칙 연도는 학회 프로시딩 출간 기준으로 표기했다(arXiv 공개 연도와 다를 수 있다). 실험 결과에 대한 서술은 각 원문의 보고를 근거로 했고, 식별성에 대한 후속 비판처럼 여러 연구에 걸친 평가는 "~라는 후속 비판이 있다"로 정황 표시했다.
이 자료는 단일 HTML 파일로 배포되며, 수식은 MathJax, 실습은 순수 JavaScript로 구현되어 오프라인에서도 동작한다(수식 렌더링만 최초 1회 네트워크 필요). 색상 규약: 붉은색 = 처치군, 청록색 = 대조군, 회색 점선 = 반사실·평균 표지.