PCA 잔차 반전 —
다 같이 움직이는
부분을 빼라
시장의 거의 모든 종목은 어느 정도 같이 움직인다. 그 공통의 움직임을 통째로 추정해 빼면, 남는 것은 각 종목의 순수한 개성이다. 개성이 유난히 튄 종목에 반대로 베팅하는 것이 통계적 차익거래의 표준 무기, PCA 잔차 반전이다. 시장 진폭을 직접 흔들어 보며 "잔차는 시장과 무관하다"는 성질을 눈으로 확인하는 실습이 들어 있다.
시장은 조용했는데, 시장중립 펀드들만 무너졌다
이 모듈이 배우는 전략은 강력하지만, 그 강함의 조건 — 요인모형 — 이 깨지는 순간이 있다. 무엇이 작동하고 언제 부서지는지를 함께 본다.
퀀트 퀘이크 — 며칠 만에 사라진 "중립"
2007년 8월 둘째 주, 뉴욕. 주가지수 자체는 크게 움직이지 않은 조용한 며칠이었다. 그런데 시장 방향과 무관하게 설계되었다는 시장중립 퀀트 펀드들이 일제히, 기록적인 속도로 손실을 냈다. 시장이 무너진 것이 아니라, 시장과 무관하다던 전략들만 무너진 것이다.
사후 연구가 재구성한 유력한 시나리오는 이렇다. 비슷한 신호를 쓰는 펀드들이 서로 모르는 사이에 같은 종목을 같은 방향으로 들고 있었고, 한 대형 포트폴리오의 급한 청산이 나머지 펀드들의 포지션을 때리며 연쇄 청산을 불렀다. "독립적인 개성"이라 믿었던 베팅들이 사실은 같은 전략을 쓰는 사람들이라는 숨은 공통요인으로 묶여 있었던 셈이다.
그 펀드들이 쓰던 전략의 골격이 바로 이 모듈의 주제다. 모든 종목이 공유하는 움직임을 통계적으로 추정해 빼고, 남은 "각자의 개성"이 유난히 튄 종목에 반대로 베팅한다. 페어트레이딩 모듈의 "닮은 둘"을 시장 전체로 일반화한 방법이며, 왜 강력한지와 왜 2007년 8월처럼 부서지는지가 같은 뿌리에서 나온다.
2007년 8월 사건은 "백테스트의 가짜 시장에는 나와 같은 전략을 쓰는 경쟁자가 없다"는 사실을 보여 주는 고전적 사례로 남았다. 과거 데이터를 아무리 정직하게 재연해도, 그 데이터 속에는 미래에 나와 같은 포지션을 들고 있을 다른 펀드들의 청산 압력이 들어 있지 않다. 전략이 유명해질수록, 잘 작동할수록, 붐비는 전략(crowded trade)이 될수록 백테스트와 실전의 간극은 벌어진다. 이 모듈 끝(§4)에서 이 장면으로 다시 돌아온다.
생각해 볼 질문
"시장중립"이라는 말은 정확히 무엇에 대한 중립인가. 이 모듈이 끝나면 "시장요인에 대한 중립일 뿐, 다른 위험에는 중립이 아니다"라고 답하고 그 예를 하나 들 수 있어야 한다.
출처 Khandani & Lo, "What Happened to the Quants in August 2007? Evidence from Factors and Transactions Data", Journal of Financial Markets 14(1), 2011. doi.org/10.1016/j.finmar.2010.07.005
짝꿍에서 반 전체로
짝을 하나하나 찾는 대신, 모두가 공유하는 움직임을 빼 버린다. 남는 것은 각 종목의 순수한 개성이고, 베팅은 그 개성의 튐에만 건다.
모든 종목은 어느 정도 같이 움직인다
페어트레이딩은 "닮은 둘"을 찾았다. 그런데 시장을 보면 사실 모든 종목이 어느 정도 같이 움직인다. 그렇다면 짝을 찾는 대신 이렇게 물을 수 있다 — "반 전체의 평균적인 움직임과 비교했을 때, 혼자 유난히 벗어난 종목은 누구인가?"
왜 다 같이 움직일까. 금리 결정, 환율 급변, 미국 증시의 밤사이 등락, 투자 심리의 냉온 — 이런 사건은 특정 회사가 아니라 시장 전체의 할인율과 위험 선호를 건드리기 때문에, 업종이 달라도 거의 모든 종목을 같은 방향으로 밀어낸다. 실제로 지수가 크게 오르내린 날의 등락 종목 수를 세어 보면 압도적 다수가 지수와 같은 방향이다. "오늘 이 종목이 왜 올랐나"의 상당 부분은 그 종목과 무관한 시장 전체의 사정인 셈이다.
이를 수식 없이 쓰면 — 각 종목의 움직임 = 공통요인 + 잔차. 시험 점수에 비유하면, 반 평균이 10점 오른 시험에서 내 점수가 12점 올랐다면 "공통 상승 10 + 나만의 상승 2"로 나눌 수 있다. 이 "나만의 2"가 잔차다.
이 분해가 전략이 되는 이유는 두 성분의 예측 가능성이 다르기 때문이다. 공통요인 — 시장이 내일 오를까 — 는 지독하게 맞히기 어렵다. 반면 반 평균 대비 나만의 튐인 잔차는 과잉반응이나 일시적 수급 쏠림에서 오는 경우가 많아, 도로 줄어드는 평균회귀 경향을 보이곤 한다. 페어트레이딩과 같은 착상이다 — 예측이 어려운 부분(방향)을 버리고 쉬운 부분(상대적 이탈)에만 베팅한다.
두 방법의 관계를 정리하면 이렇다. 페어트레이딩은 종목 A의 기준점을 "짝꿍 B"로, 이 모듈은 "반 전체의 평균 움직임"으로 잡는다. 짝꿍 방식은 튼튼한 소수 관계에 집중하는 대신 좋은 짝 찾기가 어렵고, 반 전체 방식은 기준점이 수백 종목의 평균이라 한두 종목의 사고에 덜 흔들린다. 둘은 경쟁이 아니라 같은 평균회귀 사상의 두 구현이다.
잔차 계산 — "올랐나"가 아니라 "얼마나 튀었나"
어느 날 시장 공통요인이 +2%였고, 종목 A와 B는 공통요인에 1:1로 반응하는 보통 종목이라 하자. 잔차는 실제 수익률에서 공통 몫을 뺀 값이다.
| 종목 | 실제 수익률 | 공통 몫 | 잔차 | 해석 |
|---|---|---|---|---|
| A | +5% | +2% | +3% | 반 평균보다 3%p 더 올랐다 |
| B | −1% | +2% | −3% | 반 평균보다 3%p 뒤처졌다 |
이런 날이 사흘 이어지면 누적 잔차는 A 약 +9%(반 평균 대비 혼자 과열 → 숏 후보), B 약 −9%(혼자 과매도 → 롱 후보)다. 판단 기준이 "올랐나"가 아니라 "반 평균 대비 얼마나 튀었나"임에 주목하자. 시장요인이 −3%인 날 −1%에 그친 종목은, 하락했는데도 잔차는 +2%로 상대적 과열 쪽이다.
PCA가 공통요인을 찾는 법
미리 "시장요인은 코스피"라고 정해 주지 않아도 된다. 수익률 구름에서 가장 길게 늘어진 축이 곧 공통요인이다.
가장 길게 늘어진 축부터 차례로
PCA(주성분분석)는 여러 변수가 함께 움직이는 가장 큰 방향(주성분)부터 차례로 찾아 주는 통계 기법이다. 주식 수익률에 적용하면 1번 주성분은 거의 항상 "시장 전체가 같이 움직이는 방향"이 나온다.
수백 종목의 수익률 데이터 구름에서 PCA는 가장 길게 늘어진 축부터 차례로 찾아 준다. 주식 수익률의 구름은 "모두 같이 오르내리는 방향"으로 가장 길게 늘어져 있으므로 1번 주성분이 시장요인이 되고, 2번·3번에는 업종별 동조 같은 부차적 공통 움직임이 잡히곤 한다. 미리 "시장요인은 코스피 지수"라고 정해 주지 않아도 데이터가 스스로 공통요인을 드러낸다는 점이 PCA의 매력이다.
잔차 반전 — 튄 개성에 반대로 베팅한다
공통요인을 추정해 빼고, 남은 잔차의 누적을 지켜본다. 위로 크게 튄 종목은 숏, 아래로 처진 종목은 롱 — 롱과 숏을 같은 크기로 잡아 시장중립을 유지한다.
- 요인 추정 — 최근 수익률 데이터에 PCA를 적용해 공통요인(1개 또는 몇 개)을 추정한다
- 잔차 계산 — 각 종목 수익률에서 그 종목의 요인 몫(민감도 × 요인)을 빼고, 남은 잔차를 시간에 따라 누적한다
- 후보 선정 — 누적 잔차가 위로 크게 튄 종목은 "반 평균 대비 혼자 과열" → 숏, 아래로 처진 종목은 "혼자 과매도" → 롱
- 중립 유지 — 롱 묶음과 숏 묶음을 같은 크기로 잡는다. 시장이 오르든 내리든 공통 몫은 양쪽에서 상쇄된다
페어트레이딩의 "짝꿍 하나"를 "반 전체 평균"으로 일반화한 것으로, Avellaneda와 Lee의 2010년 논문이 미국 주식 데이터로 절차를 체계화해 이 전략의 표준 참고문헌이 되었다.
"수익률 = 공통요인 + 고유 성분"이라는 분해는 금융학의 오래된 뼈대다. 1960년대 샤프(Sharpe)의 CAPM은 공통요인을 "시장" 하나로 놓았고, 1976년 로스(Ross)의 APT는 요인이 여러 개일 수 있음을 보였다. 요인을 사람이 지정하는 대신 데이터에서 통계적으로 뽑아내는 도구가 PCA다.
Avellaneda & Lee 논문에서 흥미로운 부분은 잔차가 되돌아오는 속도를 측정해, 너무 느리게 돌아오는 종목은 매매하지 않는다는 규칙이다. 평균회귀가 존재한다는 것과 그것이 거래비용을 이길 만큼 빠르다는 것은 별개의 문제이기 때문이다. 전자는 통계의 문제, 후자는 사업성의 문제다.
출처 Avellaneda & Lee, "Statistical Arbitrage in the US Equities Market", Quantitative Finance 10(7), 2010. doi.org/10.1080/14697680903124632 · Sharpe (1964) · Ross (1976) — 서지는 참고문헌 참조.
공통요인 제거 실험실
시장 진폭을 아무리 키워도 잔차는 1도 변하지 않는다. "잔차는 시장과 무관하다"를 공식이 아니라 눈으로 본다.
시장이 요동쳐도 잔차는 불변
종목 2개 = β × 시장 + 고유 파형
목표 — 두 종목의 수익률을 "β × 시장 공통요인 + 각자의 고유 파형"으로 합성해 놓고, 시장 진폭을 흔들었을 때 원시 수익률은 뒤엉키지만 잔차(공통 몫을 뺀 것)는 전혀 변하지 않음을 확인한다. 종목 A는 β=1.2(시장에 민감), 종목 B는 β=0.8(둔감)이며, 고유 파형은 주기가 다른 결정론적 파동이라 난수가 없다 — 언제 열어도 같은 그림이다.
조작 안내 — 슬라이더로 시장 진폭을 0%에서 3%까지 움직여 본다. 0%는 "시장이 완전히 잠든 세계", 3%는 "매일 요동치는 세계"다. 관찰 포인트 — ① 왼쪽 패널은 진폭을 키울수록 두 곡선이 함께 크게 출렁이며 뒤엉킨다 — readout의 원시 상관계수가 0.06(진폭 0)에서 0.96(진폭 3)까지 치솟는다. 겉보기엔 "둘 다 오르는 장"일 뿐 개성이 보이지 않는다. ② 오른쪽 패널은 슬라이더를 아무리 흔들어도 픽셀 하나 변하지 않는다 — 잔차 상관계수도 0.06에 고정이다. 공통 몫을 정확히 빼면 시장의 사정은 흔적도 남지 않는다. ③ 오른쪽에서 A의 잔차는 위로, B의 잔차는 아래로 처지는 고유 파형이 드러난다 — 원시 수익률만 보면 안 보이던 "혼자 튄 종목"이 잔차에서만 보인다. 이것이 공통요인을 빼는 이유의 전부다.
손계산으로 확인해 보자. 진폭 1.5%일 때 1일차 시장요인은 +1.21%다. 종목 A의 원시 수익률은 1.2 × 1.21 + 0.16 = +1.61%인데, 여기서 공통 몫 1.2 × 1.21 = 1.45%를 빼면 잔차 +0.16% — A의 고유 파형 값 그대로다. 진폭을 3%로 올리면 원시 수익률은 +3.06%로 커지지만 빼는 공통 몫도 같이 커져서 잔차는 여전히 +0.16%다. 잔차가 진폭과 무관한 것은 근사가 아니라 항등식이다 — (βm + 고유) − βm = 고유.
이 실습에는 정직한 단순화가 하나 있다. 여기서는 β와 시장요인을 우리가 만들었으므로 정확히 알지만, 실전에서는 둘 다 데이터에서 추정해야 한다. 추정된 β가 틀리면 잔차에 시장의 부스러기가 섞여 들어오고, 그만큼 "시장중립"은 근사가 된다. §4의 위험 이야기는 결국 이 추정이 어긋나는 경우들의 목록이다.
검증 — 유령을 찾아내지 않는가
정답을 심은 시장에서는 정답을 찾아야 하고, 정답이 없는 시장에서는 아무것도 찾지 말아야 한다. 후자가 이 전략에서 특히 결정적이다.
정답이 없는 시장에서 벌면 안 된다
페어트레이딩 모듈에서 배운 대조군 검증을 이번 전략에도 그대로 들이댄다. 이 강의 플랫폼의 합성데이터 실험에서, 공적분 구조를 심은 가짜 시장(양성)은 전체 구간 샤프 1.50이 OOS에서 1.68로 유지되었고, 구조 없는 독립 랜덤워크(음성)에서는 유의미한 성과가 나오지 않았다.
음성 대조군이 왜 결정적인가. 잔차 반전은 "튄 것을 반대로 산다"는 규칙이므로 아무 구조 없는 랜덤워크에도 신호는 항상 나온다 — 우연히 튄 종목은 언제나 있기 때문이다. 룩어헤드 같은 구현 오류는 이 우연한 튐마저 수익으로 둔갑시킨다. 음성 대조군에서 성과가 0 근처라는 것은 "구조가 없으면 벌지 못한다"는 정직함의 증명서다.
양성 쪽 숫자가 페어트레이딩보다 작더라도 그 자체로 정직한 정보다. 시장중립 롱숏은 매일 양방향으로 거래하므로 거래비용이 성과를 꾸준히 깎는다. 그러고도 남는 것이 진짜 알파다.
음성 대조군의 논리는 신약 검증의 위약(placebo) 대조군과 같다. 약효가 없는 가짜 약에서 "효과"가 관찰되면 실험 설계 자체를 의심해야 하듯, 구조가 없는 데이터에서 높은 샤프가 나오면 전략이 아니라 구현을 의심해야 한다. 특히 잔차 반전처럼 "신호가 항상 발생하는" 전략일수록 음성 검사의 가치가 크다 — 신호의 존재 자체는 아무것도 증명하지 않기 때문이다.
매일 양방향으로 거래하는 대가
롱 묶음과 숏 묶음을 매일 조금씩 갈아탄다고 하자. 하루 평균 포트폴리오의 20%를 교체하고 왕복 거래비용(수수료+슬리피지)이 0.2%라면 —
| 항목 | 계산 | 값 |
|---|---|---|
| 하루 비용 | 20% × 0.2% | 0.04% |
| 연간 비용 (250거래일) | 0.04% × 250 | 약 10%p |
| 원천 수익이 연 15%라면 | 15% − 10%p | 손에 쥐는 것은 5% |
백테스트에 비용을 넣지 않으면 전략의 절반 이상이 신기루일 수 있다는 뜻이다. "얼마나 버는가"만큼 "얼마나 자주 움직이는가"가 성과를 결정한다 — 회전율이 높은 전략일수록 비용 가정 하나로 결론이 뒤집힌다.
모형이 깨질 때
요인을 몇 개 뺄지는 조율의 문제이고, 요인 구조 자체는 시간이 지나며 변한다. 시장중립이라는 방패는 요인모형이 유효할 때만 작동한다.
요인 개수의 딜레마 — 적게 빼면 가짜 신호, 많이 빼면 무신호
공통요인을 몇 개나 제거할지(1개? 3개?)는 정답이 없는 조율의 문제다. 양쪽 끝이 모두 함정이다.
더 위험한 것은 이 조율을 과거 성과에 맞춰 하기 시작하는 순간이다. "요인 3개일 때 백테스트가 제일 좋네"라는 선택은 과최적화의 문을 다시 여는 것이며, 전향 평가 모듈에서 본 "여러 번 시도한 것 중 잘된 것만 보고하기"의 요인 버전이다.
"크게 튀었으니 반드시 되돌아온다"
잔차 반전은 "이유 없는 이탈은 되돌아온다"에 거는 전략이다. 이유 있는 이탈까지 반대로 베팅하면, 새로운 적정 가격을 향해 달리는 기차 앞에 서는 셈이다.
"누적 잔차가 크게 튀었으니 반드시 평균으로 되돌아온다."
보장은 없다. 잔차가 튄 이유가 일시적 수급이라면 되돌아오지만, 어닝 서프라이즈나 신약 승인처럼 회사의 실제 가치가 변한 사건이라면 그 이탈은 새로운 적정 수준으로의 이동이지 과열이 아니다. 통계는 "이유 없는 튐"과 "이유 있는 튐"을 구분해 주지 않는다.
그래서 실무에서는 실적 발표일 전후를 매매에서 제외하는 등, 이유 있는 이탈을 솎아내는 보조 규칙을 함께 쓴다. 신호를 만드는 통계와 신호를 걸러 내는 도메인 지식이 짝을 이뤄야 하는 전형적인 지점이다.
위기에는 "개성"이 한 방향으로 쓸려 간다
위기에는 종목 간 상관이 일제히 치솟으며, 개성이라 믿었던 잔차들이 한 방향으로 쓸려 간다. 모형이 깨지는 순간이 곧 방패가 사라지는 순간이다.
도입의 2007년 8월로 돌아가자. 시장 전체는 조용했는데 시장중립 펀드들만 무너진 이유는, 독립처럼 보이던 잔차들이 "같은 전략을 쓰는 사람들"이라는 숨은 공통요인으로 묶여 있었기 때문이다. PCA는 과거 데이터에 나타난 공통 움직임만 잡아낸다 — 아직 발현되지 않은 공통요인, 이를테면 "나와 같은 포지션을 든 펀드들의 동반 청산"은 위기 전 데이터 어디에도 없다. Avellaneda & Lee 논문 역시 2007~2008년 구간에서 전략 성과가 크게 요동쳤다고 보고했다.
- 시장중립은 시장요인에 대한 중립일 뿐이다 — 붐비는 전략(crowded trade) 리스크에는 무방비일 수 있다
- 백테스트의 가짜 시장에는 나와 같은 전략을 쓰는 경쟁자가 없다
- 그래서 손실 한도와 위기 시 포지션 축소 규칙을 전략의 일부로 미리 박아 두어야 한다 — 위기가 온 뒤에 정하는 규칙은 규칙이 아니다
Khandani와 Lo는 헤지펀드의 실제 포지션 자료 없이도, 요인 수익률과 거래 데이터의 재구성을 통해 "한 대형 포트폴리오의 급한 청산 → 유사 전략들의 연쇄 손실"이라는 시나리오가 데이터와 정합함을 보였다. 단정이 아니라 정황 재구성이라는 점도 배울 거리다 — 시장 사건의 사후 분석은 대체로 이 수준의 증거로 이루어지며, 그래서 서술도 "유력한 설명"에 머물러야 한다.
요인 구조의 변화는 위기가 아니어도 일어난다. 산업 구조가 바뀌면 업종 요인의 구성이 바뀌고, 금리 레짐이 바뀌면 시장요인에 대한 민감도(β)들이 이동한다. 그래서 실전 구현은 요인을 한 번 추정하고 끝내는 것이 아니라 이동 창(rolling window)으로 주기적으로 재추정한다. 창이 짧으면 잡음에 흔들리고 길면 구조 변화에 둔해지는, 또 하나의 조율 문제가 여기에도 있다.
출처 Khandani & Lo (2011), Journal of Financial Markets 14(1). doi.org/10.1016/j.finmar.2010.07.005 · Avellaneda & Lee (2010), Quantitative Finance 10(7). doi.org/10.1080/14697680903124632
퀴즈와 정리
답을 보기 전에 먼저 스스로 답해 본다. 전부 이 모듈 안에서 다룬 내용이다.
주식 수익률에 PCA를 적용하면 1번 주성분은 보통 무엇을 나타내는가?
반 평균이 5점 오른 시험에서 내 점수가 3점 올랐다. 잔차는 얼마이고, 이 "종목"에 대한 판단은?
시장 공통요인이 −3%인 날 종목 C의 수익률이 −1%였다(민감도 1:1 가정). C의 잔차와 해석은?
잔차 반전 전략이 시장중립이 되는 이유는? 그 중립이 깨질 수 있는 경우는?
구조가 전혀 없는 랜덤워크 데이터(음성 대조군)에서 내 잔차 반전 백테스트가 높은 샤프를 냈다. 어떻게 해석해야 하는가?
요인을 1개(시장)만 제거했을 때 생길 수 있는 오판의 예는?
페어트레이딩과 PCA 잔차 반전의 공통점과 차이는?
① 수익률 = 공통요인 + 잔차. 공통을 빼야 "상대적 과열/과매도"가 보인다 — 실습에서 본 대로, 공통 몫을 정확히 빼면 시장이 아무리 요동쳐도 잔차는 불변이다.
② 페어트레이딩의 일반화: 기준점을 짝꿍 하나에서 반 전체 평균으로. PCA는 그 "반 전체의 움직임"을 데이터에서 스스로 찾아낸다(1번 주성분 = 시장요인).
③ 음성 대조군까지 통과해야 "잡음에서 유령을 만들지 않는" 전략이라 믿을 수 있다. 신호가 항상 발생하는 전략일수록 음성 검사가 결정적이다.
④ 잔차 반전은 "이유 없는 이탈"에 거는 전략이다 — 실적 발표 같은 이유 있는 이탈은 걸러야 한다. 그리고 요인 개수는 조율의 문제(적게 빼면 가짜 신호, 많이 빼면 무신호), 요인모형이 깨지는 위기가 최대 리스크다.
참고문헌
수치와 일화는 아래 원문 기준으로 서술했다. 링크는 공식 등록처(DOI)가 확실한 것만 달았다.
요인모형의 계보
- Sharpe, W. F. (1964). "Capital Asset Prices: A Theory of Market Equilibrium under Conditions of Risk." Journal of Finance 19(3). doi.org/10.1111/j.1540-6261.1964.tb02865.x — 공통요인을 "시장" 하나로 놓은 CAPM.
- Ross, S. A. (1976). "The Arbitrage Theory of Capital Asset Pricing." Journal of Economic Theory 13(3). doi.org/10.1016/0022-0531(76)90046-6 — 요인이 여러 개일 수 있음을 보인 APT.
전략 · 사건
- Avellaneda, M. & Lee, J.-H. (2010). "Statistical Arbitrage in the US Equities Market." Quantitative Finance 10(7). doi.org/10.1080/14697680903124632 — PCA 요인 추정과 잔차 평균회귀 매매 절차를 체계화한 표준 참고문헌. 잔차의 회귀 속도가 느린 종목을 제외하는 규칙 포함.
- Khandani, A. E. & Lo, A. W. (2011). "What Happened to the Quants in August 2007? Evidence from Factors and Transactions Data." Journal of Financial Markets 14(1). doi.org/10.1016/j.finmar.2010.07.005 — 2007년 8월 퀀트 퀘이크의 연쇄 청산 시나리오를 데이터로 재구성.
이 모듈의 백테스트 수치(샤프 1.50 → OOS 1.68, 음성 대조군 무성과)는 강의용 실험 플랫폼의 합성데이터 실험 실측이며, 실제 투자 성과를 시사하지 않는다. 실습의 두 종목 곡선은 결정론적 합성 파형으로 난수를 쓰지 않는다. 2007년 8월 사건의 원인 서술은 Khandani & Lo의 재구성에 따른 "유력한 설명"이며 확정된 사실이 아니다. 인용 원칙: 연도는 발표 기준, 확신이 없는 서술은 "~로 알려져 있다/~로 보고했다"로 구분했다.