룰베이스 전략 —
전문가의 규칙을 코드로
"추세가 위이고 거래량이 실리면 산다" 같은 전문가의 판단을 if-then 규칙으로 옮기면 무엇이 가능해지고, 규칙이 늘면 무엇이 무너지는가. 룰 4개를 점수로 결합하는 전략을 손으로 설계해 보고, 임계값 튜닝이 왜 다중검정의 함정으로 직행하는지, 그 한계가 어떻게 머신러닝의 출발점이 되는지까지. 룰을 직접 켜고 끄며 판단이 바뀌는 것을 보는 실습이 들어 있다.
컴퓨터가 감염병 전문의와 겨룬 날
규칙 600개를 쌓으면 전문가 수준의 판단이 나온다 — 이 오래된 증명이 이 모듈의 출발점이다.
600개의 "만약 ~라면" 문장이 만든 전문가
1979년, 미국 의학협회지(JAMA)에 특이한 블라인드 평가가 실렸다. 혈액 감염 환자 사례에 대한 항생제 처방을 평가단이 채점했는데, 답안 중 하나는 사람이 아니라 스탠퍼드에서 만든 프로그램 MYCIN의 것이었다. 결과는 놀라웠다 — 약 600개의 if-then 규칙으로 움직이는 이 프로그램은 감염병 전문의들에게 뒤지지 않는 평가를 받았다.
규칙 하나하나는 "열이 있고 백혈구 수치가 높으면 세균 감염을 의심한다" 수준의 평범한 문장이다. 그런데 수백 개가 체계적으로 결합되자 전문가 수준의 판단이 나왔다. 이런 시스템을 익스퍼트 시스템이라 부르고, 1970~80년대 고전 AI의 주역이었다. 그리고 10년쯤 뒤, 이 접근은 화려하게 무너진다 — 규칙이 수천 개로 불어나자 아무도 전모를 이해하지 못하게 된 것이다. 그 흥망의 궤적 전체가 이 모듈의 교재다.
금융으로 눈을 돌리면 이야기는 현재진행형이다. 이동평균 모듈의 전략은 규칙이 단 하나였다. 실제 전문가는 그렇게 판단하지 않는다 — 추세, 과열 여부, 거래량 같은 여러 근거를 종합한다. 그 종합 판단을 규칙의 체계로 옮기면 어디까지 갈 수 있고 어디서 부러지는가. 신용평가 스코어카드처럼 수십 년째 현역인 성공 사례와, 규칙의 미로에 갇혀 사라진 실패 사례가 같은 구조에서 나온다.
이 모듈은 시리즈에서 유일하게 코드 실험 없이 진행되는 이론 모듈이다. 규칙 하나(이동평균 교차)에서 규칙의 체계(이 모듈)를 거쳐 학습(LightGBM)으로 넘어가는 다리를 놓는 것이 목적이다. 고전 AI의 유산을 배우는 자리이면서, 동시에 다음 모듈부터 펼쳐질 학습 기반 방법들이 왜 필요해졌는지를 몸으로 납득하는 자리다. "낡은 기법의 역사"로 읽지 않기를 권한다 — 신용평가·이상거래 탐지의 규칙 계층은 지금 이 순간에도 돌아가고 있다.
생각해 볼 질문
내가 아는 노련한 투자자(또는 어떤 분야든 전문가)의 판단 하나를 "만약 ~라면 ~다" 문장으로 받아 적어 보자. 받아 적는 과정에서 빠져나가는 것이 무엇인지가 §4의 주제다.
출처 Yu, V. L. et al., "Antimicrobial Selection by a Computer: A Blinded Evaluation by Infectious Diseases Experts", JAMA 242(12), 1979 · Buchanan & Shortliffe (eds.), Rule-Based Expert Systems: The MYCIN Experiments, Addison-Wesley, 1984.
익스퍼트 시스템의 구조
규칙 모음과 실행기를 분리하는 것 — 이 단순한 설계가 전략을 고칠 때 코드 전체가 아니라 규칙 목록만 바꾸면 되게 한다.
지식 베이스 + 추론 엔진
익스퍼트 시스템(expert system)은 전문가의 지식을 if-then 규칙으로 코드화한 고전 AI다. 규칙 모음인 지식 베이스와, 규칙을 오늘의 상황에 적용해 결론을 끌어내는 추론 엔진의 두 부분으로 구성된다. 학습하지 않고, 사람이 짠 규칙대로 판단한다.
이 분리의 가치는 요리에 비유하면 분명하다. 지식 베이스는 레시피 카드 묶음이고 추론 엔진은 주방장이다. 신메뉴를 추가할 때 주방장을 새로 뽑는 것이 아니라 카드 한 장을 끼워 넣으면 된다. 소프트웨어 공학에서 말하는 관심사의 분리가 1970년대 AI 설계에 이미 들어 있었던 셈이다.
추론 엔진이 규칙을 적용하는 방식에도 이름이 있다. 현재 상황에서 출발해 조건이 충족된 규칙들을 연쇄적으로 발화시켜 결론까지 나아가면 전방 추론(forward chaining), 원하는 결론에서 출발해 그것을 지지할 근거 규칙을 거꾸로 찾아가면 후방 추론이다. 매일 아침 시장 데이터를 넣고 매매 신호를 뽑는 우리의 용도는 전형적인 전방 추론이다.
왜 하필 if-then 형태였을까. 사람의 전문성을 들여다보면 상당 부분이 조건과 행동의 짝으로 이루어져 있기 때문이다. 노련한 의사는 "열이 있고 백혈구 수치가 높으면 세균 감염을 의심한다"고 말하고, 노련한 트레이더는 "추세가 위인데 거래량까지 실리면 진짜 상승으로 본다"고 말한다. 이런 문장을 수백 개 모으면 전문가를 복제할 수 있지 않을까 — 이것이 1970년대 AI 연구자들의 야심이었고, MYCIN의 평가 결과는 수백 개 규모까지는 이 야심이 실제로 작동한다는 증거였다.
금융에서도 이 형태는 낯설지 않다. 신용평가의 심사 규칙, 자동 매매의 주문 조건, 이상거래 탐지의 경보 규칙이 모두 조건-행동 짝이다. 도입에서 예고했듯 성공과 실패가 같은 구조에서 나오므로, 어디까지가 성공의 영역인지 경계선을 아는 것이 이 모듈의 실질적 목표다.
출처 Shortliffe, E. H., Computer-Based Medical Consultations: MYCIN, Elsevier, 1976 · Buchanan & Shortliffe (eds.), Rule-Based Expert Systems, Addison-Wesley, 1984.
황금기, 그리고 규칙의 미로
1980년대는 익스퍼트 시스템의 황금기였다. 그러나 1980년대 말, 성공의 대표 사례가 실패의 대표 사례로 바뀐다 — 규칙이 수천 개로 불어나자 아무도 전체를 이해하지 못하게 된 것이다.
미국 DEC사의 XCON은 복잡한 컴퓨터 주문 사양을 규칙으로 자동 구성하는 시스템으로, 회사에 연간 수천만 달러를 절감해 준 것으로 알려져 있다. 이런 성공에 자극받아 수많은 기업이 익스퍼트 시스템 부서를 만들었고, 일본은 1982년 5세대 컴퓨터 프로젝트로 국가 차원의 투자를 시작했다. 그러나 XCON의 규칙은 수천 개 규모로 불어나 유지보수 비용이 도입 효과를 갉아먹기 시작했다. 규칙을 뽑아낼 전문가의 시간은 비쌌고, 뽑아낸 규칙은 환경이 바뀌면 금세 낡았다. 이 실망이 이른바 AI 겨울의 한 원인으로 지목되기도 한다.
여기서 배울 교훈은 "익스퍼트 시스템은 틀린 아이디어였다"가 아니다. 규칙 수백 개까지는 훌륭하게 작동하지만, 그 너머로 확장하려면 사람이 아닌 다른 무언가가 규칙을 만들어야 한다는 것이다. 그 다른 무언가가 바로 데이터이고, §5와 이후 모듈 전체가 그 이야기다.
출처 McDermott, J., "R1: A Rule-Based Configurer of Computer Systems", Artificial Intelligence 19(1), 1982 — XCON(R1)의 원 논문 · 절감액 규모는 널리 인용되나 1차 회계 자료 확인이 어려워 "~로 알려져 있다"로 서술했다.
점수로 결합하기
AND는 너무 엄격하고 OR는 너무 헤프다. 점수 합산은 그 중간에서 증거의 개수를 센다 — 사람의 종합 판단과 닮은 구조다.
룰 4개와 임계값 하나로 전략이 종이 한 장에 적힌다
여러 룰을 결합하는 가장 단순하고 튼튼한 방법은 점수 합산이다. 룰마다 신호가 켜지면 정해진 점수를 더하고, 총점이 임계값을 넘으면 행동한다.
| 룰 | 조건 | 점수 | 관점 |
|---|---|---|---|
| R1 추세 | 단기 이동평균 > 장기 이동평균 | +1 | 방향 |
| R2 과매도 | RSI < 30 | +1 | 반등 기대 |
| R3 과열 | RSI > 70 | −1 | 과열 경계 |
| R4 수급 | 상승하며 거래량이 평소보다 급증 | +1 | 수급 확인 |
판단 규칙은 하나다 — 총점이 +2 이상이면 매수, −2 이하면 매도, 그 사이면 보유. 손계산 하나: 오늘 어느 종목이 단기>장기 이평(+1), RSI 74(−1), 상승+거래량 급증(+1)이라면 총점은 +1, 판단은 보유다. 근거가 두 개 쌓이면 행동하고 하나뿐이면 기다린다는, 사람의 종합 판단과 닮은 구조다.
대안과 비교하면 이 설계의 미덕이 보인다. "모든 조건이 동시에 만족될 때만 매수"인 엄격한 AND 결합은 조건이 넷이면 넷 다 켜지는 날이 드물어 신호가 거의 나오지 않고, 조건 하나가 아슬아슬하게 어긋났다는 이유로 좋은 기회를 통째로 버린다. 반대로 "하나라도 켜지면 매수"인 OR 결합은 신호가 너무 헤퍼진다. 점수 합산은 그 중간에서 증거의 개수를 세는 방식이며, 서로 다른 관점의 판단을 표결로 모은다는 이 발상은 뒤에서 배울 앙상블 학습의 다수결과 정확히 같은 정신이다.
RSI를 처음 만났다면 직관만 짚어 두자. RSI(상대강도지수)는 최근 며칠 동안 오른 날의 상승폭 합과 내린 날의 하락폭 합을 비교해 상승 쪽 비중을 0~100으로 나타낸 지표다. 최근에 오르기만 했다면 100에, 내리기만 했다면 0에 가까워진다. 70 이상이면 과매수, 30 이하면 과매도로 읽는 관례가 있는데 — 이 기준선은 물리 법칙이 아니라 1978년 와일더(Wilder)의 책 이후 굳어진 관례일 뿐이다. 바로 이 "관례일 뿐인 숫자"라는 사실이 §4에서 다룰 함정의 씨앗이 된다.
점수 체계를 설계할 때의 실무 조언 하나 — 각 룰이 서로 다른 종류의 정보를 보게 하는 것이 좋다. 추세 룰 셋에 과열 룰 하나를 섞는 것보다, 위 표처럼 추세·과매도·과열·수급으로 관점을 나눠 하나씩 두는 편이 같은 정보를 중복해서 세는 일을 막아 준다.
출처 Wilder, J. W., New Concepts in Technical Trading Systems, Trend Research, 1978 — RSI와 70/30 관례의 원전.
가중치와 포지션 크기 — 편리한 만큼 위험한 자유도
룰마다 중요도가 다르다고 판단되면 가중치를 줄 수 있고, 총점을 그대로 포지션 크기에 연결할 수도 있다. 다만 손잡이가 하나 늘 때마다 §4의 함정도 함께 자란다.
가중치 손계산 — 추세 룰 R1에 가중치 2를 주고 나머지는 1로 두자. 오늘 R1 켜짐(+2), R2 꺼짐(0), R3 켜짐(−1), R4 켜짐(+1)이면 총점은 +2로 매수다. 같은 상황을 모두 가중치 1로 계산하면 총점 +1로 보유에 그친다. 가중치 하나가 판단을 바꿨다. 편리한 자유도이지만, 백테스트 성적을 보며 가중치를 고르기 시작하는 순간 무슨 일이 생기는지는 §4에서 본다.
포지션 크기 연결의 가장 흔한 형태는 계단형 배분이다 — 총점 +2면 계획 물량의 절반만 사고 +3이면 전량을 사는 식. 근거가 많을수록 크게 베팅하고 근거가 애매하면 작게 발을 담근다는 원칙은, 확률로 표현만 바뀔 뿐 이 시리즈 끝까지 반복되는 자금 관리의 핵심이며 메타레이블링 모듈에서 확률 기반으로 정교해진다.
점수 합산 룰베이스는 금융에서 가장 오래되고 가장 성공한 AI 기법이라 해도 과언이 아니다. 신용평가의 스코어카드가 정확히 이 구조다. 연체 이력이 없으면 몇 점, 카드 사용 기간이 길면 몇 점, 최근 대출 조회가 많으면 감점 — 항목별 점수를 합산해 총점이 기준을 넘으면 대출을 승인한다. 미국의 FICO 점수를 비롯한 개인신용점수 체계가 수십 년째 이 방식 위에서 돌아간다.
이 장수의 비결은 성능이 아니라 설명 책임이다. 심사역이 "왜 거절됐나요"라는 질문에 항목별로 답할 수 있어야 한다는 규제 요구가 있는 한, 점수 합산의 자리는 쉽게 사라지지 않는다. 카드사의 이상거래 탐지 역시 초창기에는 "새벽 시간대 해외 결제" 같은 규칙들의 점수 합산으로 시작했고, 지금도 머신러닝 모형 곁에서 규칙 계층이 함께 돌아가는 경우가 많다.
룰 점수 계산기
룰 4개를 켜고 끄면 판단이 바뀐다. 상충하는 룰이 동시에 켜질 때 총점이 무슨 일을 하는지가 관찰의 핵심이다.
토글 4개, 슬라이더 2개로 움직이는 전략
오늘의 시장 상황을 조립해 판단을 받아 본다
목표 — 점수 합산 전략의 전체 로직(발화 룰 → 총점 → 임계값 비교 → 판단)이 어떻게 한눈에 들어오는지, 그리고 상충 룰이 동시에 켜질 때 총점이 어떤 역할을 하는지 확인한다.
조작 안내 — 임계값 ±2, 가중치 1의 기본 상태에서 룰을 하나씩 켜 본다. 손계산 예제 두 개를 재현해 보라: ① R1+R3+R4 켜짐 → 총점 +1 보유, 가중치를 2로 올리면 +2 매수. ② R1+R2+R4 켜짐, R3 켜짐 → 총점 +2 매수. 관찰 포인트 — ① 상충 룰 동시 발화: R1(추세 +1)과 R3(과열 −1)을 같이 켜면 총점 0 — 반대 방향 증거가 상쇄되어 "판단 유보"가 된다. 상충을 조정하는 별도 규칙 없이 덧셈 하나가 그 역할을 한다는 것이 점수 합산의 우아함이다. ② R2와 R3을 동시에 켜면 readout이 경고한다 — RSI가 30 미만이면서 70 초과일 수는 없으므로 논리적으로 불가능한 조합이다. 규칙이 늘면 이런 일관성 검사도 사람이 관리해야 한다. ③ 임계값을 ±1로 내리면 룰 하나만 켜져도 매매가 나간다(신호 남발), ±3으로 올리면 매수 자체가 거의 불가능해진다 — 이 룰 구성의 최대 총점은 가중치 1일 때 +3, 최소 총점은 −1이라 매도 신호는 ±2에서 아예 도달 불가능하다. 룰 구성이 +쪽으로 기울어 있다는 사실을 임계값 슬라이더가 드러낸다.
방금 움직인 슬라이더 두 개가 그대로 §4의 주제다. 임계값 T와 가중치 w는 각각 하나의 자유도이고, "백테스트 성적이 가장 좋은 T와 w를 고르겠다"는 순간 전향 평가 모듈에서 배운 다중검정의 함정에 정확히 빠진다. T 세 후보 × w 세 후보만 해도 아홉 가지 전략을 시험한 셈이고, 순전히 운만 작용해도 그중 하나쯤은 좋아 보인다. 슬라이더를 움직여 마음에 드는 판단이 나올 때까지 조정하고 싶은 유혹 — 그 유혹의 산업적 규모 버전이 임계값 튜닝이다.
룰 폭발 계산기 — 곱셈으로 불어나는 경우의 수
룰 몇 개를 더했을 뿐인데
목표 — 룰 수와 임계값 후보 수가 늘 때 검토해야 할 경우의 수가 덧셈이 아니라 곱셈으로 불어나는 것을 숫자로 본다.
조작 안내 — 기본값(룰 4, 튜닝 룰 5 × 후보 3)에서 시작해 룰 개수 n을 4 → 10 → 20으로 올려 본다. 관찰 포인트 — ① n=4면 시장 상황은 2⁴ = 16가지지만 n=10이면 1,024가지, n=20이면 100만을 넘는다 — 룰을 하나 더할 때마다 두 배가 되는 것이 "폭발"이라는 말의 정확한 의미다. ② 임계값 후보 조합(전략 변형 수) 3⁵ = 243을 보라. 243가지를 모두 백테스트해 최고 성적을 골랐다면, 한 번의 검증이 아니라 243번의 시도 중 최고를 뽑은 것이다. ③ 변형 수가 1,000을 넘는 지점에서 readout의 경고가 바뀐다 — 우연만으로 눈부신 성적이 나오기에 충분한 횟수다.
해석 가능성이라는 무기
룰베이스의 최대 강점은 모든 판단에 이유를 댈 수 있다는 것이다. 단, 이유를 댈 수 있다는 것과 그 판단이 옳다는 것은 별개다.
감사실에서, 그리고 장애 대응 중에
"왜 샀지?"라는 질문에 "추세 룰과 수급 룰이 켜져 총점 +2였다"라고 답할 수 있다. 이 능력이 규제와 감사가 있는 금융 현장에서 어떤 가치를 갖는지, 두 장면으로 실감해 보자.
첫 장면은 감사실이다. 금융회사의 자동 매매나 신용 심사는 감독 당국의 점검 대상이고, "이 거래는 왜 실행됐는가"에 대해 사후에 재구성 가능한 답을 내놓아야 한다. 룰베이스는 판단 당시 어떤 룰이 켜졌는지 로그만 남기면 이 요구를 그대로 충족한다.
두 번째 장면은 장애 대응이다. 어느 날 전략이 이상하게 특정 업종만 계속 사들인다고 하자. 룰베이스라면 룰을 하나씩 꺼 보며 십 분 안에 범인을 찾을 수 있다 — 거래량 데이터의 단위가 바뀌어 수급 룰이 오작동했다는 식의 원인이 드러난다. 같은 장애가 수백만 개의 가중치를 가진 학습 모델 안에서 났다면 추적은 훨씬 고통스럽다. 여기에 두 가지 실용적 장점이 더해진다 — 데이터가 부족한 영역에서 도메인 지식을 직접 주입할 수 있다는 점, 그리고 복잡한 기법이 이겨야 할 견고한 기준선이 되어 준다는 점이다. 이동평균 모듈의 기준선 철학은 여기서도 이어진다: 화려한 학습 모델이 잘 설계된 룰 몇 개를 이기지 못한다면 아직 존재를 증명하지 못한 것이다.
"해석 가능하니까 옳다. 룰베이스는 학습 모델보다 항상 안전하다."
해석 가능성과 정확성은 별개다. 총점 +2의 이유를 댈 수 있다는 사실이 그 판단이 옳다는 보증은 아니며, 잘못된 규칙도 완벽하게 해석 가능하다. 해석 가능성의 진짜 가치는 정확성 보장이 아니라, 틀렸을 때 어디가 틀렸는지 찾아 고칠 수 있게 해 주는 데 있다. 반대쪽 오해 — "룰베이스는 낡았으니 무조건 학습 모델로 바꿔야 한다" — 도 마찬가지로 성립하지 않는다. 데이터가 적은 신생 시장, 규칙이 곧 규제 요건인 영역, 도메인 지식이 데이터보다 풍부한 문제에서는 지금도 룰베이스가 합리적 선택이고, 실제 현장 시스템의 상당수는 룰 계층과 학습 계층을 함께 쓴다.
세 가지 함정
룰 폭발, 임계값 튜닝, 지식 획득 병목. 셋 모두 규칙이 "사람 손으로" 만들어진다는 한 가지 사실에서 나온다.
규칙이 규칙을 부른다
지표가 열 개, 임계값이 서너 개씩이면 조합은 수백 가지로 불어나고, 서로 반대 방향을 가리키는 룰이 동시에 켜지는 상충 상황을 조정하는 규칙이 또 필요해진다. 지식 베이스는 아무도 전모를 모르는 미로가 된다.
실습 ②에서 확인한 산수를 다시 보자 — 룰이 4개면 시장 상황은 2⁴ = 16가지지만, 10개면 2¹⁰ = 1,024가지다. 룰 폭발이 무서운 진짜 이유는 개수 자체가 아니라 상호작용이다. 룰이 4개일 때 상충 조정 규칙은 몇 개면 되지만, 40개가 되면 어떤 룰 쌍이 어떤 상황에서 부딪히는지조차 파악하기 어렵다. 그래서 "R7과 R12가 동시에 켜지면 R12를 무시한다" 같은 메타 규칙이 자라나기 시작하고, 몇 년 뒤에는 어떤 룰을 지웠을 때 무슨 일이 생길지 아무도 자신 있게 말하지 못하는 상태가 된다. §1에서 본 XCON의 말년이 정확히 이 모습이었다.
튜닝은 곧 선택 편향이다
RSI 기준을 30으로 할지 25로 할지 백테스트 성적으로 고르는 순간, 전향 평가 모듈에서 배운 다중검정의 함정에 정확히 빠진다. 룰과 임계값 하나하나가 전부 자유도다.
실습 ②의 숫자로 이어 보자. 임계값 후보 243가지 조합을 모두 백테스트해 가장 성적 좋은 것을 골랐다면, 한 번의 검증을 한 것이 아니라 243번의 시도 중 최고를 뽑은 것이다. 순전히 운만 작용해도 243번 중 한 번쯤은 눈부신 성적이 나온다 — 다중검정을 하고서 보정 없이 최고값을 보고한 셈이다.
더 교묘한 점은 이 튜닝이 대개 악의 없이 일어난다는 것이다. "기준을 조금만 손보자"를 열 번 반복한 연구자는 자신이 1,024가지 상태 공간을 뒤졌다는 자각이 없다. 방어법은 전향 평가에서 배운 그대로다 — 튜닝에 쓴 데이터와 평가에 쓸 데이터를 분리하고, 시도한 조합의 개수를 정직하게 세어 둔다.
"느낌이 온다"를 코드로 옮길 수 없다
지식 획득 병목(knowledge acquisition bottleneck) — 전문가의 암묵지를 명시적 규칙으로 끌어내는 일이 익스퍼트 시스템 구축의 최대 난관이라는 고전 AI의 교훈이다. 익스퍼트 시스템 시대가 저문 핵심 이유로 꼽힌다.
이 병목은 두 겹이다. 한 겹은 표현의 문제다. 뛰어난 트레이더에게 비결을 물으면 "느낌이 온다"거나 "장이 무거워 보인다" 같은 답이 돌아오는데, 이 암묵지를 "RSI 몇 이하" 같은 명시적 조건으로 번역하는 순간 미묘한 무언가가 반드시 새어 나간다. 다른 한 겹은 부패의 문제다. 규칙은 박제되는 순간부터 낡기 시작한다. 시장에 알고리즘 거래가 늘어 거래량의 의미 자체가 달라지면, 한때 잘 들었던 거래량 룰은 소리 없이 고장 난다. 더 나쁜 것은 언제 고장 났는지 알려 주는 경보가 없다는 점이다.
그래서 룰베이스 운영의 실제 비용은 만드는 비용이 아니라, 수백 개의 규칙을 계속 의심하고 검사하고 폐기하는 유지 비용이다. 규칙을 유지보수하는 비용이 규칙을 만드는 비용을 넘어서는 순간이 반드시 온다.
세 함정을 한 문장으로 묶으면 이렇다 — 규칙의 병목은 언제나 사람이다. 룰 폭발은 사람의 이해 용량을 넘고, 임계값 튜닝은 사람의 자기기만에 기대며, 지식 획득은 사람의 언어 능력에 막힌다. 그렇다면 규칙을 만들고 고치는 주체에서 사람을 빼면 어떻게 되는가 — 이 질문이 §5의 출발점이고, 시리즈 후반부 전체의 출발점이기도 하다.
생각해 볼 질문
실습 ①에서 임계값과 가중치 슬라이더를 "마음에 드는 판단이 나올 때까지" 움직였다면, 나는 이미 몇 가지 전략 변형을 시험한 셈인가. 그 횟수를 정직하게 셀 수 있는가.
결정트리라는 다리
규칙을 사람이 쓰는 대신 데이터가 스스로 찾게 하면 어떨까 — 이 질문에 대한 가장 직관적인 답이 결정트리다.
기계가 만든 if-then의 나무
결정트리(decision tree)는 "어떤 지표를 어떤 임계값으로 나눠야 데이터가 가장 잘 갈리는가"를 반복해 학습한, 기계가 만든 if-then 규칙의 나무다. 사람이 짠 룰과 형태가 같으므로 여전히 읽고 해석할 수 있다.
학습 과정은 이렇다. 과거의 날들을 "다음 날 올랐다/내렸다"로 색칠해 놓고, 결정트리는 모든 지표와 모든 임계값 후보를 훑으며 "이 기준으로 나누면 왼쪽엔 오른 날이, 오른쪽엔 내린 날이 가장 순수하게 모인다" 같은 최선의 질문 하나를 고른다. 나눠진 각 그룹 안에서 같은 일을 반복하면 질문이 질문을 낳으며 나무가 자란다.
눈여겨볼 점은 사람이 하던 일과의 대응이다. 어떤 지표를 볼지 고르는 일, 임계값을 정하는 일, 규칙의 순서를 짜는 일 — §4에서 우리를 괴롭히던 바로 그 자유도들을 기계가 데이터 기준으로 결정한다. 지식 획득 병목에 대한 정면 돌파인 셈이다.
데이터에서 규칙을 배우자는 발상은 1980년대에 이미 무르익었다. 통계학 쪽에서는 브레이먼(Breiman)과 동료들이 1984년 CART를 내놓아 분류와 회귀를 모두 다루는 트리 방법론을 정립했고, AI 쪽에서는 퀸란(Quinlan)이 ID3와 후속인 C4.5로 같은 아이디어를 발전시켰다. 흥미로운 것은 시점이다 — 익스퍼트 시스템의 전성기와 결정트리의 탄생기가 겹친다. 사람이 규칙을 쓰는 접근이 병목에 부딪히는 바로 그 시기에, 데이터가 규칙을 쓰게 하는 접근이 나란히 자라고 있었다.
이후 트리 하나의 불안정함을 여러 그루로 극복하는 흐름이 랜덤 포레스트와 그래디언트 부스팅으로 이어졌고, 2017년 공개된 마이크로소프트의 LightGBM이 그 계보의 현역 대표 주자다 — 다음 모듈에서 직접 다룬다.
출처 Breiman, Friedman, Olshen & Stone, Classification and Regression Trees, Wadsworth, 1984 · Quinlan, J. R., "Induction of Decision Trees", Machine Learning 1(1), 1986 · Ke et al., "LightGBM: A Highly Efficient Gradient Boosting Decision Tree", NeurIPS 2017. papers.nips.cc
해석 가능성을 내주고 예측력을 얻는 거래
트리 하나는 과거의 잡음까지 외우기 쉽다. 실전에서는 수백 그루를 이어 심어 앞 트리의 오차를 다음 트리가 보정하게 한다 — 그래디언트 부스팅이다. 판단은 안정되지만, "왜 샀는가"의 답이 수백 그루의 합산이 되어 한눈에 읽히지 않게 된다.
"잡음을 외운다"를 조금 풀어 두자. 질문을 계속 허용하면 트리는 훈련 데이터의 모든 날을 완벽히 분류할 때까지 가지를 뻗는다. 그 끝에는 "2021년 3월의 어느 목요일"에만 맞는, 우연을 암기한 가지들이 생긴다 — 전향 평가 모듈에서 본 과최적화가 형태만 바꿔 돌아온 것이다. 수백 그루를 심어 서로의 오차를 보정하게 하면 개별 나무의 암기가 상쇄되어 전체는 훨씬 안정된 판단을 하게 된다.
요컨대 룰베이스에서 머신러닝으로의 이행은 해석 가능성의 일부를 내주고 예측력과 자동화를 얻는 거래다. 무엇을 얼마나 내줬는지 아는 사람만이 그 거래를 후회 없이 할 수 있다. 내준 만큼을 성능으로 돌려받았는지는 이동평균과 이 모듈의 룰베이스라는 기준선으로 검증한다 — 그것이 이 거래의 예의다.
퀴즈와 정리
답을 보기 전에 먼저 스스로 답해 본다. 전부 이 모듈 안에서 다룬 내용이다.
익스퍼트 시스템의 두 구성요소는 무엇이고, 왜 분리해 두는가?
네 룰에서 +1, +1, −1, +1이 나왔다. 총점과 임계값 ±2 기준의 판단은?
여러 룰을 결합할 때 "모든 룰이 켜져야 매수"인 AND 결합 대신 점수 합산을 쓰는 이유는?
RSI 임계값을 30, 25, 20으로 바꿔 가며 백테스트 성적이 가장 좋은 것을 고르는 행위의 문제는?
룰이 10개이고 각 룰이 켜짐/꺼짐 두 상태라면 가능한 시장 상황 조합은 몇 가지인가?
해석 가능성이 금융 현장에서 특히 값진 두 가지 상황은?
룰베이스와 결정트리의 공통점과 차이는?
① 익스퍼트 시스템 = 지식 베이스(if-then 룰) + 추론 엔진. 학습 없이 사람이 짠 규칙으로 판단한다.
② 룰 결합의 실전 기본형은 점수 합산이고, 최대 강점은 모든 판단에 이유를 댈 수 있는 해석 가능성이다 — 단, 해석 가능성은 정확성의 보증이 아니라 틀린 곳을 찾아 고칠 수 있게 하는 능력이다.
③ 룰이 늘수록 상충 조정과 임계값 튜닝의 자유도가 커져 과최적화의 표면적이 넓어진다. 임계값 튜닝은 곧 다중검정이다.
④ 결정트리는 데이터가 학습한 룰이고, 그 앙상블이 다음 모듈의 LightGBM이다. 룰에서 학습으로의 이행은 해석 가능성 일부를 내주고 예측력과 자동화를 얻는 거래다.
참고문헌
수치와 일화는 아래 원문 기준으로 서술했다. 링크는 공개 원문이 확실한 것만 달았다.
익스퍼트 시스템
- Shortliffe, E. H. (1976). Computer-Based Medical Consultations: MYCIN. Elsevier. — MYCIN의 원전.
- Yu, V. L. et al. (1979). "Antimicrobial Selection by a Computer: A Blinded Evaluation by Infectious Diseases Experts." JAMA 242(12). — MYCIN이 전문의들에 뒤지지 않는 평가를 받은 블라인드 연구.
- Buchanan, B. & Shortliffe, E. (eds.) (1984). Rule-Based Expert Systems: The MYCIN Experiments of the Stanford Heuristic Programming Project. Addison-Wesley. — 지식 베이스·추론 엔진 구조와 규칙 수의 1차 서술.
- McDermott, J. (1982). "R1: A Rule-Based Configurer of Computer Systems." Artificial Intelligence 19(1). — XCON(R1)의 원 논문. 절감액 규모는 널리 인용되나 1차 회계 자료 확인이 어려워 본문에 "~로 알려져 있다"로 서술했다.
기술적 지표 · 규칙 학습
- Wilder, J. W. (1978). New Concepts in Technical Trading Systems. Trend Research. — RSI와 70/30 관례의 원전.
- Breiman, L., Friedman, J., Olshen, R. & Stone, C. (1984). Classification and Regression Trees. Wadsworth. — CART.
- Quinlan, J. R. (1986). "Induction of Decision Trees." Machine Learning 1(1). — ID3.
- Ke, G. et al. (2017). "LightGBM: A Highly Efficient Gradient Boosting Decision Tree." NeurIPS 2017. papers.nips.cc — 다음 모듈의 주인공.
이 모듈은 코드 실험이 없는 이론 모듈이며, 본문·실습의 점수 계산과 조합 수는 전부 손으로 재현 가능한 산수다. 실습의 룰·임계값·가중치는 교육용 예시이고 투자 조언이 아니다. 인용 원칙: 연도는 발표 기준, 1차 자료 확인이 어려운 수치(XCON 절감액)는 "~로 알려져 있다"로, 해석에 해당하는 서술(AI 겨울의 원인)은 "~로 지목되기도 한다"로 구분했다.