비정형 데이터와
인과추론

설문지가 닿기 전에 위성이 먼저 본다

케냐 서부의 시골 마을 수백 곳에 대규모 무조건 현금이전 프로그램이 시행되었다. 효과를 알고 싶다. 정석은 가구를 찾아가 자산과 소비를 묻는 설문이다. 그런데 설문은 비싸고 느리다. 조사원이 마을마다 들어가야 하고, 한 라운드에 수개월과 큰 예산이 든다. 프로그램이 확대될 때마다 같은 비용을 다시 치러야 한다.

Huang, Hsiang & Gonzalez-Navarro(2021)는 다른 길을 택했다. 위성영상이다. 케냐 농촌에서 가구가 부유해지면 가장 먼저 하는 일 중 하나가 짚지붕을 양철지붕으로 바꾸는 것이고, 양철지붕은 상공에서 선명하게 식별된다. 이들은 딥러닝으로 위성영상에서 건물과 지붕 재질을 검출해 설문 없이 현금이전의 효과를 추정했고, 같은 실험을 설문으로 평가한 전통적 추정과 부합하는 값을 얻었다. 우주에서 찍은 사진이 지상의 설문지를 대신한 것이다.

이 장의 명제는 이렇다. 8장까지의 딥러닝은 대체로 "기존 인과 방법을 더 유연하게 만드는 도구"였다. 그러나 비정형 데이터는 다르다. 텍스트·이미지·센서 신호를 변수로 바꾸는 일은 딥러닝 없이는 아예 불가능하다. 딥러닝이 인과추론에 기여하는 가장 확실한 지점이 바로 여기다. 다만 공짜는 아니다. 비정형 데이터를 어느 자리에 어떻게 세우는가에 따라, 같은 임베딩이 설계를 살리기도 하고 통째로 무너뜨리기도 한다.

출처 Huang, Hsiang & Gonzalez-Navarro, "Using Satellite Imagery and Deep Learning to Evaluate the Impact of Anti-Poverty Programs", NBER Working Paper 29105, 2021, nber.org/papers/w29105 · Burke, Driscoll, Lobell & Ermon, "Using Satellite Imagery to Understand and Promote Sustainable Development", Science 371(6535), 2021, science.org/doi/10.1126/science.abe8628

먼저 자리를 물어라, 기술은 그 다음이다

비정형 데이터 인과추론의 첫 질문은 "어떤 모형을 쓰는가"가 아니다. 이 데이터가 인과 그래프의 어느 자리에 서 있는가다. 자리는 셋뿐이다. 처치와 결과 모두에 영향을 주는 교란요인, 처치의 효과가 나타나는 결과변수, 그리고 처치 그 자체. 자리가 정해지는 순간 요구되는 성질과 써야 할 기술이 함께 정해진다.

표에서 가장 중요한 행간은 같은 데이터가 문제에 따라 다른 자리에 선다는 것이다. 케냐의 위성영상은 §3에서 결과변수로 쓰이지만, §4에서는 같은 종류의 영상이 교란 조정용 공변량으로 쓰인다. 자리가 다르면 요구되는 성질이 다르고, 심지어 정반대다. 결과변수로 쓸 영상은 처치에 반응해야 가치가 있는데, 교란요인으로 쓸 영상은 처치에 반응한 흔적이 조금이라도 섞이면 설계가 무너진다. "이미지니까 CNN, 텍스트니까 BERT"라는 기술 중심 사고로는 이 구분이 보이지 않는다.

세 번째 자리(비정형 데이터가 처치인 경우)는 이 장에서 개관만 한다. "광고 문구의 공손함이 클릭률을 올리는가"를 물으려면 공손함만 바뀌고 길이·내용·어휘 수준은 그대로인 반사실 문구가 정의되어야 하는데, 이 조작적 정의 자체가 미해결에 가까운 연구 주제다. 텍스트 처치의 체계적 정리는 Feder 외(2022)의 서베이가 좋은 출발점이다.

출처 Feder 외, "Causal Inference in Natural Language Processing: Estimation, Prediction, Interpretation and Beyond", TACL 10, 2022, arxiv.org/abs/2109.00725

유명 저자라서 더 인용되는가

처치 \(D\) = 저자가 유명한가, 결과 \(Y\) = 논문의 인용수. 단순 비교를 하면 유명 저자의 논문이 훨씬 많이 인용된다. 그런데 이것이 유명세의 효과인가.

아니라고 의심할 이유가 있다. 유명 저자는 애초에 인기 주제를 다루는 경향이 있고, 인기 주제는 저자가 누구든 그 자체로 인용이 많다. 즉 논문의 내용이 처치(유명 저자의 참여 확률)와 결과(인용수) 양쪽에 화살표를 쏘는 전형적인 교란요인이다. 5장의 언어로 말하면 조건부 무시가능성 \( \{Y(0),Y(1)\} \perp D \mid X \)를 성립시키는 \(X\)에 "내용"이 반드시 들어가야 한다.

문제는 내용이 표의 열이 아니라는 것이다. 주제 분류 코드 몇 개로는 "같은 주제 안에서도 더 시의적절한 논문"과 같은 미세한 차이를 담지 못한다. 내용은 텍스트, 즉 초록과 본문 그 자체 안에 있다. 교란을 조정하려면 텍스트를 조정해야 하고, 텍스트를 조정하려면 텍스트를 벡터로 바꿔야 한다. 여기까지는 자연스럽다. 함정은 다음 단계에 있다. BERT 임베딩을 뽑아 그대로 공변량으로 넣으면 되는가? 이 장의 답은 "아니오"이고, 그 이유와 대안이 다음 카드다.

출처 Veitch, Sridhar & Blei, "Adapting Text Embeddings for Causal Inference", UAI, 2020, arxiv.org/abs/1905.12741 — 유명 저자·인용수 예제도 이 논문의 설정이다.

재조준: BERT 위에 세 개의 머리를 올린다

Veitch, Sridhar & Blei(2020)의 처방은 임베딩을 그대로 쓰지 말고 인과 목적으로 재조준(adapt)하라는 것이다. 이론적 출발점은 5장에서 본 성향점수의 충분성이다.

교란 조정에 텍스트의 모든 의미가 필요한 것이 아니다. 무시가능성이 \(X\)에서 성립하면, 성향점수 \(e(X)=P(D=1\mid X)\)와 조건부 결과 \(Q(d,X)=\mathbb{E}[Y\mid D=d,X]\)만으로 ATT·ATE가 식별된다. 따라서 표현 \(\lambda(X)\)가 이 두 함수를 복원하기에 충분하기만 하면, 즉

이기만 하면 \(\lambda(X)\)로 조정해도 원래의 \(X\)로 조정한 것과 같은 효과가 식별된다. 텍스트의 문체, 저자 특유의 어투, 문단 구성 같은 정보는 처치 확률에도 결과 예측에도 기여하지 않는 한 버려도 된다. 아니, 버려야 한다. 무관한 방향까지 껴안은 표현은 조정을 돕지 않으면서 차원만 키운다.

구현은 7장의 Dragonnet 구조를 텍스트에 이식한 것이다. 사전학습된 BERT 인코더 위에 세 개의 머리, 즉 두 잠재결과 예측기 \( \hat Q(0,\lambda),\ \hat Q(1,\lambda) \)와 성향점수 예측기 \( \hat g(\lambda) \)를 올리고, 세 손실의 합으로 인코더까지 미세조정한다. 학습이 끝나면 임베딩 공간은 일반 언어 이해가 아니라 교란에 해당하는 의미 방향만 남기도록 재편된다. 이렇게 얻은 \( \hat Q, \hat g \)를 7장의 이중강건(DR) 추정식에 꽂으면 한쪽 모형이 어긋나도 다른 쪽이 보정하는 최종 추정치를 얻는다.

1. 사전학습 언어모형(BERT)에서 출발한다. 언어의 일반 구조는 공짜로 가져온다.
2. 세 머리(\(\hat Q(0,\cdot)\), \(\hat Q(1,\cdot)\), \(\hat g\))를 올려 처치·결과 예측 손실로 미세조정한다. 표현이 인과 목적으로 재조준된다.
3. 추정된 \( \hat Q, \hat g \)로 DR 추정량을 계산한다. 교차적합(cross-fitting)을 쓰면 7장의 DML 이론이 그대로 적용된다.

출처 Veitch, Sridhar & Blei, UAI 2020, arxiv.org/abs/1905.12741 · Shi, Blei & Veitch, "Adapting Neural Networks for the Estimation of Treatment Effects" (Dragonnet), NeurIPS, 2019, arxiv.org/abs/1906.02120

측정 → 연결 → 인과: 세 단계의 분업

질문은 "현금이전이 가구 후생을 얼마나 올렸는가"다. 위성영상은 싸고 즉시적이지만, 영상은 후생이 아니다. 이 간극을 Huang 외(2021)는 세 단계로 잇는다.

1. 측정 단계 — 순수 컴퓨터비전. 위성영상에서 딥러닝으로 건물 윤곽과 지붕 재질을 검출해, 지역 격자별 "건물 면적"과 "양철지붕 면적"이라는 해석 가능한 스칼라를 만든다. 이 단계는 인과와 완전히 무관한 객체 검출 문제다. 그래서 컴퓨터비전의 축적된 기술을 그대로 쓸 수 있고, 검출 정확도를 지상 검증 자료(ground truth)로 독립적으로 평가할 수 있다. "모형이 지붕을 지붕으로 보고 있는가"는 인과 가정 없이 답할 수 있는 질문이다.
2. 연결 단계 — 소표본 설문. 양철지붕은 부유해진 가구가 짚지붕을 교체하며 늘어나는, 개발경제학에서 잘 문서화된 후생의 대리지표다. 설문이 있는 소표본에서 "지붕 면적 변화 1단위 = 가구 자산 몇 달러"라는 환산 계수를 추정한다. 대리지표와 진짜 관심 변수 사이의 다리를 소량의 비싼 자료로 놓고, 그 다리를 대량의 싼 자료에 적용하는 구조다.
3. 인과 단계 — 순수 계량경제. 원격측정된 결과변수의 전후 변화를 처치 강도(격자별 수혜 규모)에 회귀한다. 처치 배정이 실험적으로 이뤄졌으므로 이 회귀는 표준적인 효과 추정이고, 얻어진 계수를 연결 단계의 환산 계수로 달러 단위로 번역한다. 이렇게 얻은 값이 전통적 설문 기반 추정과 부합했다.

출처 Huang, Hsiang & Gonzalez-Navarro, NBER WP 29105, 2021, nber.org/papers/w29105 · Burke 외, Science 371(6535), 2021, science.org/doi/10.1126/science.abe8628

왜 end-to-end로 하지 않았는가

딥러닝의 본능은 반대 방향을 가리킨다. 영상을 통째로 넣고 후생을 끝단까지 예측하는 모형을 만들면 되지 않는가. 단계를 쪼개는 것은 정보를 버리는 일 아닌가. 이 논문의 방법론적 핵심은 그 본능을 거부한 이유에 있다.

• 첫째, 모형이 무엇을 보고 후생을 읽었는지 알 수 없다. end-to-end 모형이 후생을 잘 맞춘다 해도, 그것이 지붕을 본 것인지, 도로를 본 것인지, 마당의 가축 수를 본 것인지 알 수 없다. 결과변수의 정의가 모형 내부에 숨는다.
• 둘째, 측정이 처치에 오염될 수 있다. 모형이 후생과 상관된 아무 신호나 집어 쓴다면, 그 신호 중 일부는 처치가 직접 바꾼 것일 수 있다. 예컨대 현금이전이 마당의 가축 수를 바꾸고 모형이 가축을 보고 후생을 읽는다면, "측정된 후생"의 변화에는 실제 후생 변화와 측정 채널의 변화가 뒤섞인다. 결과변수가 처치의 함수로 오염되는 것이다.
• 셋째, 실패를 국지화할 수 없다. 추정치가 이상할 때 검출이 틀렸는지, 환산이 틀렸는지, 식별이 틀렸는지 구분할 수 없다. 단계를 쪼개면 각 단계가 각자의 방법으로 검증된다.

출처 Huang, Hsiang & Gonzalez-Navarro, NBER WP 29105, 2021, nber.org/papers/w29105

원조는 무작위로 배정되지 않는다

개발 원조 프로젝트의 효과를 추정하고 싶다. 문제는 원조가 "어떤 마을에 가는가" 자체가 지형, 도로 접근성, 기존 개발수준과 얽혀 있다는 것이다. 접근이 쉬운 마을에 원조가 먼저 가고, 그런 마을은 원조가 없었어도 더 빨리 발전했을 것이다. 이 배정 요인들이 교란요인이다.

그리고 마침, 이 교란요인들은 위성영상에 찍혀 있다. 지형과 도로망, 건물 밀도, 경작 패턴은 상공에서 보인다. Jerzak, Johansson & Daoud(2023)를 비롯한 일련의 연구는 처치 배정 이전의 위성영상 임베딩을 교란 조정용 공변량으로 활용하고 영상 기반으로 효과의 이질성까지 추정하는 워크플로를 개발했다. 조정의 문법 자체는 §2와 같다. 임베딩이 성향점수와 조건부 결과를 복원하기에 충분하도록 재조준하고, DR 추정으로 마무리한다.

중요한 것은 §3과의 대비다. 같은 위성영상이 §3에서는 결과변수였고 여기서는 교란요인이다. 자리가 다르면 요구되는 성질이 정반대가 된다.

표의 마지막 행이 이 절의 급소다. 배정 이후의 영상을 교란 조정에 쓰면 무슨 일이 일어나는가. 원조가 효과를 냈다면 그 효과는 이후 영상에 찍힌다(새 건물, 새 도로). 그 영상을 공변량으로 조정하는 것은 처치의 결과인 매개변수를 통제하는 것이고, 처치 효과 중 영상에 찍힌 몫이 통째로 소거된다. 열심히 조정할수록 효과가 사라지는, 5장에서 경고한 나쁜 통제(bad control)의 비정형 버전이다.

출처 Jerzak, Johansson & Daoud, "Image-based Treatment Effect Heterogeneity", CLeaR (Causal Learning and Reasoning), 2023, arxiv.org/abs/2206.06417 · 나쁜 통제의 일반론: Angrist & Pischke, Mostly Harmless Econometrics, 2009, 3.2절.

차로폭 축소는 운전을 바꿨는가

어느 도로 구간의 차로폭을 줄였다. 안전 효과를 보고 싶은데 사고는 다행히도, 그리고 통계적으로는 불행히도 드물다. 한 구간에서 유의한 사고 건수 변화를 관측하려면 수년치 자료가 필요하다. 대안: 사고의 전조인 주행 행동을 결과변수로 쓴다.

1. 수집. 시행 전후 각 6개월치 차량 궤적(GPS 또는 영상 기반)을 처치 구간과, 개편이 없었던 기하구조·교통량이 유사한 대조 구간들에서 수집한다.
2. 표현학습. 궤적 인코더(시퀀스 모형)를 학습해 각 주행을 벡터화한다. 인코더는 처치·대조, 전·후의 전 데이터를 합쳐 한 번만 학습하고, 어느 구간·어느 시기의 궤적인지는 입력에서 제거한다.
3. 스칼라화. 임베딩을 그대로 결과로 쓰지 않고, §3의 원칙대로 해석 가능한 스칼라로 번역한다. 차로중심 이탈의 표준편차, 급조향 빈도, 속도 분산 같은, 공학적으로 의미가 논증되는 지표들이다.
4. 인과 추정. 이 스칼라들을 결과 \(Y\)로 두고, 유사 구간을 대조군 삼아 1장의 DiD를 적용한다. 계절·유가·전국적 단속 강화 같은 공통 충격은 차분이 지운다.

출처 이 설계 연습은 실제 출판 논문이 아니라 본 강의 시리즈의 제안이다. 원칙의 근거: Huang 외, NBER WP 29105, 2021 (해석 가능한 스칼라로의 번역) · Shi, Blei & Veitch, NeurIPS 2019 (표현학습과 인과추정의 분리).

이 데이터는 어느 자리에 서 있는가

한 줄 목표: 시나리오 속 비정형 데이터가 교란요인·결과변수·처치 중 어디에 서는지 판별하고, 자리마다 이 장의 어느 레시피가 적용되는지 연결한다.

임베딩 만능론

퀴즈

인용 원칙 본문의 설계 서술은 원문 기준으로 표기했다. §5의 차로폭 설계와 연구 아이디어는 출판 논문이 아니라 본 강의의 제안이며 본문에 그렇게 명시했다. 1차 자료 확인이 어려운 서술은 "~로 알려져 있다"로 구분해 적었다.