지식표현과
전문가 시스템
전문가 시스템은 사람이 작성한 지식과 규칙을 이용해 추론한다. 지식표현 방법, 순방향·역방향 추론, 전문가 시스템의 활용과 한계를 살펴본다.
MYCIN의 처방 평가
1979년 연구에서는 감염병 전문가 8명이 수막염 환자 10명에 대한 처방을 블라인드 방식으로 평가했다. MYCIN과 스탠퍼드 의대 교수들의 처방이 평가 대상에 포함되었다.
이 평가에서 MYCIN의 처방 적합 판정률은 65%, 교수들의 판정률은 42.5~62.5%였다. MYCIN은 전문가에게서 수집한 약 600개의 IF–THEN 규칙과 확신도를 사용했다.
MYCIN은 평가에서 높은 성과를 보였지만 실제 진료에 도입되지는 않았다. 이 사례를 통해 전문가 시스템의 구조와 성능 평가, 현장 도입의 조건을 살펴본다.
출처 Yu 외, "Antimicrobial Selection by a Computer", JAMA 242(12), 1979: pubmed.ncbi.nlm.nih.gov · 평가 상세(Buchanan & Shortliffe 1984, 31장): people.dbmi.columbia.edu
탐색에서 지식으로
범용 탐색의 한계가 드러나면서 특정 분야의 전문 지식을 활용하는 연구가 확대되었다.
GPS: 모든 문제를 탐색으로
초기 AI 연구에서는 다양한 문제에 공통으로 적용할 수 있는 탐색 방법을 개발했다. GPS(General Problem Solver, 1957)는 이러한 접근을 대표한다.
GPS는 현재 상태와 목표 상태의 차이를 줄이는 연산을 선택해 정리 증명과 퍼즐을 풀었다. 다만 실제로 해결할 수 있는 문제의 범위는 제한적이었다. 문제의 규모가 커지면 탐색해야 할 경우의 수가 급격히 증가했다.
이후 연구자들은 추론 방법뿐 아니라 분야별 지식의 중요성에 주목했다. 전문가 시스템은 특정 분야의 지식을 명시적으로 표현하고 활용하는 방식이다.
DENDRAL을 이끈 파이겐바움은 도메인 지식의 양과 질이 문제 해결 성능에 중요하다고 강조했다. 오늘날 데이터 기반 모델에서도 학습 데이터의 양과 품질은 주요 성능 요인이다. 다만 전문가 시스템의 명시적 규칙과 LLM의 학습된 표현은 지식을 다루는 방식이 다르다.
생각해 볼 질문: "범용으로 약한 것"과 "전문으로 강한 것" 중 무엇을 만들 것인가는 오늘의 AI 제품 기획에서도 똑같이 등장하는 선택이다. 어느 쪽이 먼저 시장을 여는가?
출처 Newell, Shaw & Simon, "Report on a General Problem-Solving Program", 1959: bitsavers.org
전문가 시스템: 지식과 추론의 분리
전문가 시스템은 절차적 코드가 아니라 규칙으로 표현된 지식으로 추론해, 특정 영역에서 인간 전문가의 의사결정을 흉내 내는 시스템이다. AI 소프트웨어 최초의 상업적 성공 형태였다.
최초의 본격 전문가 시스템으로 꼽히는 것은 DENDRAL(1965~, 스탠퍼드)이다. 질량 분석 데이터에서 유기 분자 구조를 추정하는 시스템으로, 화학자 러더버그와 컴퓨터과학자 파이겐바움의 협업이었다. "전문가의 머릿속 판단 절차를 면담으로 뽑아내 규칙으로 적는다"는 방법론, 곧 지식 공학(knowledge engineering)이 여기서 태어났다.
생각해 볼 질문: 지식 베이스만 바꾸면 영역을 옮길 수 있다는 약속은 실제로 얼마나 지켜졌을까? 5장의 XCON 유지보수 이야기와 연결해 보자.
출처 Lindsay 외, Applications of Artificial Intelligence for Organic Chemistry: The DENDRAL Project, McGraw-Hill, 1980 · Shortliffe, Computer-Based Medical Consultations: MYCIN, Elsevier, 1976
MYCIN의 성능과 도입의 한계
MYCIN은 세균 감염을 진단하고 항생제를 처방하는 약 600개 규칙의 시스템이다. 블라인드 평가에서 전문의들을 앞섰지만, 임상에는 결국 배치되지 못했다.
| 처방 주체 | 적합 판정률 (평가자 8인 블라인드) |
|---|---|
| MYCIN | 65.0% |
| 스탠퍼드 의대 교수 5인 | 42.5% ~ 62.5% |
| 전공의·의대생 | 그 이하 |
평가 성능이 높다고 현장 도입이 보장되는 것은 아니다. MYCIN의 도입에는 책임 소재, 병원 업무와의 통합, 당시 컴퓨터 환경의 비용, 의료진의 수용성 등이 문제가 되었다.
65%라는 숫자 자체도 읽는 법이 필요하다. 증례 10개를 놓고 매긴 평가이고, "이상적 처방"이 아니라 "수용 가능한 처방" 판정 비율이다. 표본이 작아 통계적 확정이라기보다 "전문가 수준에 도달했다"는 신호로 읽는 것이 정확하다. 그럼에도 치료 가능한 병원체를 놓친 적이 없다는 점, 항생제 수를 최소로 유지했다는 점은 평가자들이 별도로 인정했다.
생각해 볼 질문: 여러분이 병원장이라면 65% 시스템의 도입 결재에 무엇을 요구하겠는가? "성능 수치" 말고 세 가지를 적어 보자.
출처 Yu 외, JAMA 242(12):1279–1282, 1979: pubmed.ncbi.nlm.nih.gov · Buchanan & Shortliffe(편), Rule-Based Expert Systems, 1984(전문 공개): people.dbmi.columbia.edu
지식을 적는 다섯 가지 방법
지식표현 방식에 따라 표현할 수 있는 정보와 적용 가능한 추론 방법이 달라진다.
주요 지식표현 방법
사람의 지식을 기계가 처리할 수 있도록 표현하는 대표적인 방법을 비교한다. 이 장에서는 생성 규칙과 의미망을 중심으로 살펴본다.
이 방법들은 지식을 명시적으로 표현한다는 공통점이 있다. 자전거 타기와 같이 말로 설명하기 어려운 암묵지는 규칙으로 옮기기 어렵다. 전문가가 자신의 판단 과정을 충분히 설명하기 어렵다는 점도 지식 획득의 제약이다.
생각해 볼 질문: "김치찌개 맛있게 끓이는 법"을 IF–THEN 규칙 10개로 적어 보라. 어디서 막히는가?
의미망의 상속과 예외
의미망은 "카나리아는 새다, 새는 동물이다"처럼 개념 사이의 관계를 그래프로 적는다. 관계를 따라가면 직접 적어 두지 않은 지식도 추론된다: 카나리아는 동물이다.
새로운 사실을 추가했을 때 기존 결론이 바뀌는 추론을 비단조 추론이라 한다. 예를 들어 어떤 개체가 새라는 정보만으로 비행 가능성을 추론했다가, 펭귄이라는 추가 정보를 받아 결론을 수정할 수 있다.
생각해 볼 질문: LLM에게 "펭귄은 날 수 있어?"라고 물으면 잘 답한다. LLM은 이 예외를 "논리"로 아는 것일까, 다른 방식으로 아는 것일까?
IF–THEN: 전제와 결론
규칙은 IF부(조건·전제·상황)와 THEN부(행동·결론·결과)로 이루어진다. 조건은 AND와 OR로 결합할 수 있고, 수치 비교도 가능하다.
규칙 #5와 #7은 일상 규정을, #8은 화학 분야의 판단을 표현한다. 생성 규칙은 같은 형식으로 다양한 분야의 조건과 결론을 기술할 수 있다.
한 규칙에 조건을 지나치게 많이 넣으면 재사용이 어렵고, 너무 세분화하면 관리할 규칙 수가 늘어난다. 사실을 추가하는 규칙과 실제 행동을 실행하는 규칙도 구분해야 한다. 행동 실행은 적용 순서에 따라 부수 효과를 낼 수 있다.
생각해 볼 질문: 학교의 "수강 신청 가능 여부"를 규칙으로 적는다면 IF부에 어떤 조건들이 필요한가? 다섯 개 이상 나열해 보자.
추론 기관: 두 방향의 연쇄
순방향 추론은 알려진 사실에서, 역방향 추론은 확인할 목표에서 시작한다. 문제의 조건에 맞춰 추론 방향을 선택한다.
순방향 추론과 역방향 추론
추론 기관이 규칙을 연쇄시키는 방향은 두 가지다. 알려진 사실로부터 결론을 이끌어 내거나(순방향), 목표를 먼저 세우고 그것을 증명할 증거를 거슬러 찾는다(역방향).
여러 사실로부터 가능한 결론을 찾는 문제에는 순방향 추론을, 정해진 가설의 성립 여부를 확인하는 문제에는 역방향 추론을 사용할 수 있다. 의료 진단에서 유력한 질환을 정하고 필요한 검사를 확인하는 과정은 역방향 추론의 예다.
생각해 볼 질문: 자동차 고장 진단과 공장 센서 이상 감지, 각각 어느 방향이 맞는가?
동물 분류: 규칙 연쇄를 손으로 따라가기
시험과 실무에서 반복 등장하는 표준 예제다. 규칙 4개와 사실 4개로 "이 동물은 무엇인가"를 추론한다. 기호화하면 연쇄가 한눈에 보인다.
- 사실 A가 규칙 #1의 조건과 일치 → 점화. 새 사실 X(포유류) 추가.
- X와 B가 규칙 #2의 조건과 일치 → 점화. 새 사실 Y(육식동물) 추가.
- Y, C, D가 규칙 #3과 일치 → 점화. 결론 Z: 사자. (규칙 #4는 E가 없어 점화되지 않는다)
점화 여부를 판정할 때 실수하기 쉬운 지점: 규칙의 조건이 전부 작업 기억에 있어야 점화된다(AND). 그리고 한 번 점화된 규칙이 추가한 새 사실이 다음 라운드에서 다른 규칙의 조건을 채운다: 이 "추가 → 재검사"의 반복이 연쇄(chaining)다. 시험에서는 각 단계에서 어느 규칙이 점화됐고 작업 기억에 무엇이 추가됐는지를 순서대로 쓰는 것이 답안의 형식이다.
생각해 볼 질문: 사실 D 대신 E(줄무늬)가 있었다면 몇 단계에서 무엇이 달라지는가?
추론 엔진을 한 단계씩 돌려 보기
위 예제와 화재 경보 예제를 브라우저에서 실행한다. 순방향의 "점화 반복"과 역방향의 "목표 되짚기"를 단계 버튼으로 관찰한다.
순방향 / 역방향 추론 시뮬레이터
실습 목표: 규칙 대조, 규칙 실행, 사실 추가가 반복되는 과정을 확인한다.
실습 방법: 화재 예제에서 순방향 추론을 선택하고 [한 단계]를 끝까지 누른다. 이후 역방향 추론으로 바꿔 같은 과정을 실행한다. 확인할 내용: 두 방법의 출발점과 규칙 적용 순서, 최종 결론을 비교한다.
화재 예제의 역방향 추론은 다음 순서로 진행된다. ① 신고에 필요한 조건인 불이 났는지를 확인한다. ② 화재 판단에 필요한 뜨거움과 연기를 확인한다. ③ 연기에 필요한 알람 여부를 확인한다. ④ 모든 하위 목표가 충족되면 신고라는 목표를 증명한다.
생각해 볼 질문: 사실이 "알람"뿐이고 "뜨겁다"가 없다면, 역방향 추론은 어디서 멈추고 사용자에게 무엇을 질문해야 하는가?
충돌 해결과 불확실성
여러 규칙이 동시에 적용되거나 정보가 불확실한 경우에는 충돌 해결 전략과 확신도를 사용한다.
동시에 적용 가능한 규칙의 선택
"통증이 있으면 진통제를 처방한다"와 "통증이 있고 60세 초과에 심장병 이력이 있으면 응급실로 보낸다"가 함께 저장돼 있다. 환자는 두 조건을 모두 만족한다. 어느 규칙을 점화해야 하는가?
충돌 해결 전략은 시스템의 목적과 위험 수준에 맞춰 정한다. 규칙 자체가 적절해도 적용 우선순위를 잘못 정하면 의도하지 않은 결론이 나올 수 있다.
특수한 규칙을 우선 적용하더라도 규칙에 빠진 조건이 없는지 확인해야 한다. 중요한 의사결정에서는 우선순위를 명시하고, 해결하기 어려운 충돌을 사람이 검토하도록 설계할 수 있다.
생각해 볼 질문: 최신성 우선이 좋은 선택이 되는 도메인의 예를 하나 들어 보자.
확신의 정도를 숫자로: 신뢰도
"이 증상들이면 아마 감기다"의 '아마'를 다루기 위해 MYCIN은 규칙마다 확신도(certainty factor)를 붙였다. 실습 노트북의 의료 진단 시스템은 같은 아이디어를 단순화해 구현한다.
매칭 비율로 신뢰도 계산하기: 의료 전문가 시스템 발췌
실습 목표: "규칙 기반 진단 + 신뢰도"가 코드 몇 줄인지 확인한다. 전체 구현은 실습 노트북(인공지능실습3_의료전문시스템)에서 다룬다.
확인할 내용: 예제의 75%는 질병 확률이 아니라 입력 증상이 규칙의 조건을 충족한 비율이다. 이러한 점수와 베이즈 확률의 차이를 구분한다.
MYCIN의 확신도는 전문가의 판단 강도를 표현하기 위한 방법이었다. 확률과의 관계에는 논쟁이 있었으며, 불확실성 처리에는 베이즈 확률이나 퍼지 논리 등도 사용한다. 확신도와 확률은 정의와 해석이 다르므로 구분해야 한다.
생각해 볼 질문: 위 코드의 신뢰도 정의(매칭/질병 증상 수)가 놓치는 것은 무엇인가? 희귀병과 흔한 병이 같은 비율일 때 무엇을 더 고려해야 하는가?
전문가 시스템의 활용과 한계
XCON의 활용 사례를 살펴보고, 지식 획득과 규칙 유지보수의 어려움을 정리한다.
XCON: 규칙 2,500개로 연 2,500만 달러
DEC의 XCON(R1)은 고객 주문에 맞춰 VAX 컴퓨터 구성을 자동 설계하는 전문가 시스템이다. 1980년 현장 투입돼, 1986년까지 8만 건의 주문을 처리했다.
- 1978년 카네기멜런의 존 맥더못(J. McDermott)이 개발 시작, 1980년 DEC 공장에 배치: 최초의 대규모 상업 전문가 시스템으로 꼽힌다.
- 규칙 약 2,500개 규모로 성장, 구성 정확도 95~98% 수준으로 보고되었다.
- 구성 오류로 인한 무상 부품 제공 감소 등으로 연 2,500만 달러를 절감한 것으로 추정되었다: 이 성공이 1980년대 전문가 시스템 붐과 기업 AI 부서 설립 러시를 촉발했다.
XCON은 신제품이 출시될 때마다 규칙을 수정해야 했다. 규칙이 늘어나면서 수정에 따른 영향을 확인하기 어려워졌고, 유지보수에 많은 인력이 필요했다. 이러한 비용은 전문가 시스템의 확산을 제한한 요인 중 하나였다.
생각해 볼 질문: 소프트웨어 공학의 "레거시 코드" 문제와 XCON의 규칙 유지보수 문제는 무엇이 같고 무엇이 다른가?
출처 McDermott, "R1: A Rule-Based Configurer of Computer Systems", Artificial Intelligence 19(1), 1982: sciencedirect.com · 절감액·처리 건수는 2차 자료 종합(추정): wikipedia.org
규칙의 확장과 유지보수
전문가 시스템에서는 지식을 수집하고 규칙을 작성·수정하는 작업을 사람이 담당한다. 지식 획득과 규칙 관리의 비용이 주요 제약이다.
지식 획득 병목은 전문가의 지식을 수집하고 규칙으로 옮기는 과정의 어려움을 뜻한다. 전문가의 시간 제약, 설명하기 어려운 암묵지, 지식 표현 과정의 오류가 원인이 될 수 있다. 머신러닝은 데이터에서 규칙이나 패턴을 학습하는 방식으로 접근한다.
생각해 볼 질문: 데이터에서 규칙을 배우면 병목은 사라지는가, 아니면 "좋은 데이터 획득"이라는 새 병목으로 옮겨 가는가?
규칙 vs LLM: 무엇을 언제 쓰는가
실습에서는 같은 문제를 규칙 기반 시스템과 LLM으로 처리하고 판단 근거, 일관성, 범위 밖 입력, 지식 갱신 방법을 비교한다.
| 규칙 기반 (전문가 시스템) | LLM (M2) | |
|---|---|---|
| 판단 근거 | 점화된 규칙을 그대로 제시: 완전한 설명 가능 | 불투명: 사후 설명은 생성물이지 근거가 아님 |
| 일관성 | 같은 입력이면 항상 같은 출력 | 샘플링에 따라 출력이 달라질 수 있음 |
| 범위 밖 입력 | 규칙에 없으면 침묵: 모름을 앎 | 무엇이든 답을 생성: 환각 위험 |
| 지식 갱신 | 사람이 규칙 추가 (병목) | 재학습 또는 RAG로 공급 |
| 구축 비용 | 좁은 영역은 저렴, 넓히면 폭발 | 기성 모델 활용 시 초기 비용 낮음 |
규칙 기반 시스템은 사기 탐지의 사전 필터, 보험 심사, 세무 계산, 운임 계산 등에서 계속 사용된다. 규칙이 명확하고 판단 과정을 확인해야 하는 업무에 유용하다.
규칙 기반 시스템과 LLM을 함께 사용할 수도 있다. 예를 들어 LLM이 자연어 입력을 구조화하면 규칙 엔진이 조건 충족 여부를 판단하고, LLM이 그 결과를 설명한다. 각 단계에 필요한 기능과 검증 방법을 기준으로 역할을 나눈다.
생각해 볼 질문: 대출 승인 시스템을 설계한다면 어느 단계를 규칙으로, 어느 단계를 모델로 두겠는가? "거절 사유 통지 의무"가 있다는 점을 고려하라.
요약 정리
지식표현, 추론 방식, 현장 도입의 조건과 한계를 정리한다.
핵심 내용
- 전문가 시스템은 지식 베이스와 추론 기관을 분리한다. 분야별 지식을 규칙으로 표현하고, 추론 기관이 이를 적용해 결론을 도출한다.
- 성능 평가와 현장 도입은 구분해야 한다. 실제 도입에는 업무 통합, 책임 소재, 비용, 사용자 수용성도 중요하다.
- 규칙 기반 방식은 적용 조건이 명확한 업무에 유용하다. 다만 지식 수집과 규칙의 확장·유지보수에 많은 비용이 들 수 있다.
다음 장에서는 데이터에서 패턴을 학습하는 머신러닝을 다룬다. 함수 근사, 학습 절차, 혼동행렬과 베이즈 정리를 살펴본다.
참고문헌
공개 원문 우선. 링크는 2026년 8월 확인 기준.
1차 문헌 · 논문과 저작
- Newell, A., Shaw, J. C., & Simon, H. A. (1959). Report on a General Problem-Solving Program. RAND P-1584. bitsavers.org
- Lindsay, R., Buchanan, B., Feigenbaum, E., & Lederberg, J. (1980). Applications of Artificial Intelligence for Organic Chemistry: The DENDRAL Project. McGraw-Hill.
- Shortliffe, E. H. (1976). Computer-Based Medical Consultations: MYCIN. Elsevier.
- Yu, V. L., et al. (1979). Antimicrobial Selection by a Computer: A Blinded Evaluation by Infectious Diseases Experts. JAMA, 242(12), 1279–1282. pubmed.ncbi.nlm.nih.gov
- Buchanan, B. G., & Shortliffe, E. H. (편) (1984). Rule-Based Expert Systems: The MYCIN Experiments. Addison-Wesley. 전문 공개: people.dbmi.columbia.edu
- McDermott, J. (1982). R1: A Rule-Based Configurer of Computer Systems. Artificial Intelligence, 19(1), 39–88. sciencedirect.com
개관 자료 (연표·수치 대조용)
- 천인국 (2023). 인공지능: 파이썬으로 배우는 머신러닝과 딥러닝 (2판). 인피니티북스.: 4주차 강의 교재.
- Wikipedia. Xcon. en.wikipedia.org: XCON 처리 건수·절감액 추정치 대조용.
MYCIN 평가 수치(65%, 42.5~62.5%)는 JAMA 원문 기준이다. XCON의 절감액(연 2,500만 달러)과 처리 건수(8만 건)는 1차 논문이 아닌 2차 자료 종합으로, 본문에 "추정"으로 표시했다. 확신이 어려운 진술("유지보수 인력 수십 명")은 "전해진다"로 표시했다.