생성형 AI와
LLM의 이해
생성형 AI와 LLM의 기본 원리를 살펴본다. 잠재공간과 트랜스포머, 토큰 생성, 환각, RAG, 에이전트의 특징과 활용 방법을 알아본다.
LLM의 텍스트 생성
ChatGPT는 2022년 11월 30일 공개되었다. 공개 5일 만에 사용자 100만 명을 확보했고, 두 달 뒤에는 월간 사용자 1억 명에 이르렀다는 추정이 보도되었다.
LLM은 앞의 문맥을 바탕으로 다음 토큰의 확률분포를 계산하고 토큰을 선택하는 과정을 반복한다. 번역과 코드 작성 등 다양한 작업에 활용할 수 있지만, 생성한 내용이 사실과 일치하는지는 별도로 확인해야 한다.
생성 모델의 학습 방법과 텍스트 생성 과정을 살펴보고, 결과를 검증하고 활용하는 방법을 알아본다.
출처 100만 명(5일): 샘 올트먼의 공지(2022-12-05): x.com/sama · 1억 명(2개월)은 시밀러웹 데이터에 근거한 UBS 분석의 추정치로 보도되었다: reuters.com
두 갈래의 접근, 그리고 잠재공간
기호주의는 명시적인 규칙을, 연결주의는 데이터에서 학습한 연결을 이용한다. 각 방식의 특징과 적용 조건을 비교한다.
기호주의와 연결주의
인공지능에는 처음부터 두 개의 설계 철학이 있었다. 규칙을 적어 넣는 쪽과, 연결에서 배우게 하는 쪽이다.
M1에서 살펴본 기호주의와 연결주의는 서로 다른 방식으로 지식을 표현하고 처리한다. 이 장에서는 신경망 기반 생성 모델을, 다음 장(M3)에서는 전문가 시스템을 다룬다.
규칙이 명확한 계산이나 규정 검사에는 규칙 기반 방법이 적합할 수 있다. 언어와 이미지처럼 규칙을 모두 기술하기 어려운 문제에는 데이터 기반 모델이 널리 사용된다.
최근에는 두 접근을 합치려는 시도(neuro-symbolic)가 다시 논의된다. LLM이 계산기를 호출하고 데이터베이스를 검색하게 하는 것도, 넓게 보면 연결주의 모델에 기호적 도구를 붙이는 절충이다.
생각해 볼 질문: 여러분의 전공 영역에서 "규칙을 전부 적을 수 있는 문제"와 "적을 수 없는 문제"는 각각 무엇인가?
닫힌 세계와 열린 세계
시스템이 처리할 입력의 범위와 학습 데이터의 조건을 확인해야 한다.
학습 데이터와 실제 입력의 분포가 다르면 성능이 낮아질 수 있다. 입력의 범위가 넓은 서비스에서는 학습 때 충분히 다루지 못한 질문도 들어오므로 별도의 평가와 오류 처리 방법이 필요하다.
이 구분은 실무에서 시스템 유형 선택의 기준이 된다. 입력의 범위를 좁힐 수 있다면(닫힌계로 만들 수 있다면) 작은 모델이나 규칙 기반으로 충분한 경우가 많다. 반대로 입력을 통제할 수 없다면, 아무리 큰 모델을 써도 "학습 분포 밖 질문"이라는 위험 자체는 사라지지 않는다는 점을 설계에 반영해야 한다.
생각해 볼 질문: 학교 학사 안내 챗봇은 닫힌계인가 열린계인가? 학생이 갑자기 요리법을 물으면 어떻게 처리해야 하는가?
잠재공간과 벡터 표현
딥러닝 모델은 입력을 벡터로 변환해 내부 표현을 학습한다. 잠재공간은 이러한 벡터 표현의 공간이며, 그 구조는 모델과 학습 목표에 따라 달라진다.
딥러닝은 과제에 필요한 특징 변환을 데이터로부터 학습한다. 생성 모델에서는 잠재변수의 분포와 디코더를 적절히 학습해 새로운 샘플을 만들 수 있다. 모든 임베딩이나 일반적인 오토인코더가 임의의 점에서 유효한 데이터를 생성하는 것은 아니다.
임베딩은 단어, 문장, 이미지 등을 벡터로 표현한 것이다. RAG의 의미 검색에서는 질문과 문서의 임베딩을 비교해 관련 문서를 찾는다.
좌표의 각 축이 사람이 이해할 수 있는 의미(크기, 색, 어조)와 일치한다는 보장은 없다. 축의 개수(차원)도 수백~수천에 이른다. 그림 1은 이해를 위해 2차원으로 그린 비유임을 기억하자.
생각해 볼 질문: "왕 − 남자 + 여자 ≈ 여왕"이라는 유명한 임베딩 산수가 성립하려면 잠재공간이 어떤 성질을 가져야 할까?
생성 모델의 계보
VAE, GAN, 확산 모델은 서로 다른 학습 목표와 생성 과정을 사용한다.
한눈에 보는 생성형 AI 13년
2013년의 VAE부터 2025년의 추론 모델까지. 이 장과 다음 장들에서 다룰 사건을 세 시대로 나눠 미리 본다.
출처 각 사건의 연도는 해당 논문의 arXiv 최초 공개 기준 (참고문헌 1–17). 확산 모델 개념: Sohl-Dickstein 외(2015), 실용화: Ho 외(2020).
VAE, GAN, 확산 모델의 학습 방법
주요 생성 모델 세 계열은 "그럴듯한 데이터를 만드는 능력"을 각각 다른 훈련 문제에서 얻는다.
생성 모델은 학습 데이터의 분포를 이용해 새로운 샘플을 만든다. 모델마다 분포를 표현하고 샘플을 생성하는 방식은 다르다.
픽셀 복원 오차에 기반한 학습은 흐릿한 결과를 낼 수 있으며, GAN은 학습 불안정성과 모드 붕괴 등의 문제가 있다. 확산 모델도 계산 비용과 세부 구조의 오류를 고려해야 한다. 생성 품질은 모델 구조뿐 아니라 데이터와 학습 방법의 영향을 받는다.
생각해 볼 질문: 생성 모델이 만든 손이나 글자에 오류가 생기는 이유를 데이터와 학습 목표의 관점에서 설명해 본다.
출처 VAE: Kingma & Welling, 2013: arxiv.org · GAN: Goodfellow 외, 2014: arxiv.org · 확산: Sohl-Dickstein 외, 2015: arxiv.org · DDPM: Ho 외, 2020: arxiv.org
딥페이크와 생성물 검증
딥페이크는 AI로 인물의 얼굴이나 음성 등을 합성·변형하는 기술이다. 결과가 자연스러워 보여도 실제 기록인지는 확인이 필요하다.
생성 기술은 영상 제작과 복원에 활용할 수 있지만 사칭이나 허위 정보 제작에도 악용될 수 있다. 원본을 수정하는 방식과 새로 생성하는 방식 모두 검증 대상이다.
영상의 외형만으로 진위를 판단하기 어려울 수 있다. 원본, 게시 주체, 촬영·제작 맥락, 전달 경로를 함께 확인한다.
규제도 같은 방향으로 움직이고 있다. EU AI Act는 딥페이크 생성물에 AI 생성 사실의 표시(라벨링)를 요구하고, 국내에서도 선거 기간 딥페이크 선거운동을 금지하는 공직선거법 개정이 2024년부터 시행되었다. 기술적 대응(워터마킹, 출처 증명)과 제도적 대응이 함께 진행 중이지만, 생성 품질의 향상 속도가 더 빠르다는 것이 현재의 긴장이다.
생각해 볼 질문: "AI 생성물 표시 의무"는 지키는 쪽보다 안 지키는 쪽이 이득을 보는 규칙이라는 비판이 있다. 그렇다면 무엇을 함께 설계해야 할까?
트랜스포머와 셀프 어텐션
트랜스포머는 어텐션으로 입력 사이의 관련도를 계산한다. 표준적인 전체 어텐션의 계산량은 입력 길이의 제곱에 비례한다.
Query, Key, Value
셀프 어텐션은 같은 입력에서 질의(Query), 키(Key), 값(Value) 벡터를 만든다. 질의와 키의 관련도를 가중치로 사용해 값 벡터를 가중합한다.
각 토큰의 입력 표현을 서로 다른 가중치 행렬로 변환해 Q, K, V를 얻는다. Q와 K의 내적으로 관련도를 계산하고, 소프트맥스로 정규화한 가중치를 V에 적용한다.
— 모든 단어 쌍의 관련도(QKᵀ)를 확률(softmax)로 바꿔, 그 가중치로 정보(V)를 섞는다
이 과정을 통해 각 토큰의 표현에 문맥 정보를 반영할 수 있다. 예를 들어 “배를 먹었다”와 “배를 탔다”에서는 주변 단어가 “배”의 의미를 구분하는 데 도움이 된다.
어텐션은 트랜스포머 이전의 신경망 기계번역에서도 사용되었다. Bahdanau 등의 모델은 출력 시점마다 입력의 은닉상태를 가중합한다. 트랜스포머는 셀프 어텐션, 잔차 연결, 피드포워드 층, 층 정규화를 조합한 구조를 사용한다. 관련 내용은 M7에서 다시 다룬다.
셀프 어텐션 자체는 입력 순서를 구분하지 않으므로 위치 정보를 추가한다. 순환 구조 없이 학습 시 여러 위치의 계산을 병렬로 수행할 수 있다. 자기회귀 생성 과정에서는 출력 토큰을 순차적으로 생성한다.
생각해 볼 질문: "나는 배를 먹었다"와 "나는 배를 탔다"에서 '배'의 Query가 각각 어떤 Key와 강하게 맞아야 할까?
출처 Vaswani 외, "Attention Is All You Need", NeurIPS 2017: arxiv.org · 어텐션의 기원: Bahdanau, Cho & Bengio, "Neural Machine Translation by Jointly Learning to Align and Translate", ICLR 2015 (arXiv 2014): arxiv.org
인코더형(BERT) · 디코더형(GPT) · 인코더-디코더형(T5)
인코더형, 디코더형, 인코더-디코더형은 입력을 참조하는 범위와 학습 목표가 다르다. 분류, 검색, 번역, 생성 등 과제에 따라 활용 방식도 달라진다.
많은 대화형 LLM은 디코더형 구조를 사용한다. 다음 토큰 예측으로 학습하며 번역, 요약, 질의응답 등을 텍스트 생성으로 처리한다. 대규모 학습과 인컨텍스트 학습에 관한 연구가 이러한 활용을 뒷받침한다. 인코더형 모델도 임베딩과 검색 등에 널리 쓰인다.
생각해 볼 질문: 빈칸 채우기 문제(문장 중간의 단어 복원)에는 어느 구조가 유리한가? 왜인가?
출처 BERT: Devlin 외, 2018: arxiv.org · GPT-1: Radford 외, 2018: cdn.openai.com · T5: Raffel 외, 2019: arxiv.org · BART: Lewis 외, 2019: arxiv.org · 규모의 법칙: Kaplan 외, 2020: arxiv.org · 구조 비교: Wang 외, ICML 2022: arxiv.org
입력 길이와 어텐션 계산량
모든 단어 쌍을 본다는 것은, 입력이 n개면 n×n개의 관계를 계산한다는 뜻이다. 입력이 10배 길어지면 어텐션 비용은 100배가 된다.
긴 입력은 연산량과 메모리 사용량을 늘린다. 모델의 컨텍스트 길이는 이러한 자원 제약과 구조, 학습 설정 등에 따라 정해진다. 입력을 나누어 처리하거나 관련 정보만 선택하는 방식으로 비용을 줄일 수 있다.
컨텍스트 길이 → 어텐션 비용
실습 목표: 입력 길이 n에 따라 토큰 쌍의 수 n²이 어떻게 증가하는지 확인한다.
실습 방법: 슬라이더로 입력 토큰 수를 바꾼다. 확인할 내용: 입력 길이가 8배가 되면 토큰 쌍은 64배가 되는지 확인한다. 10만 토큰의 전체 쌍 수는 100억 개다.
실제 서비스 모델들은 이 비용을 줄이는 근사 기법(희소 어텐션, 슬라이딩 윈도우, KV 캐시 압축 등)을 섞어 쓴다. 그래서 "컨텍스트 100만 토큰"을 지원한다는 말이 곧 100만 토큰 전체를 균등하게 잘 활용한다는 뜻은 아니다. 긴 입력의 중간 부분을 놓치는 현상이 실험적으로 보고되어 왔고, 실무에서는 중요한 내용을 입력의 앞이나 뒤에 배치하는 요령이 쓰인다.
생각해 볼 질문: 회의록 300쪽을 요약시킬 때, 통째로 넣는 것과 장별로 요약한 뒤 합치는 것 중 무엇이 나을까? 비용과 품질 양면에서 따져 보자.
언어모델의 파라미터 규모
2018년부터 2022년까지 발표된 대표적인 언어모델의 파라미터 수를 비교한다.
모델의 성능에는 파라미터 수뿐 아니라 데이터의 양과 품질, 학습 계산량, 추론 방법도 영향을 준다. 각 자원의 배분과 평가 조건을 함께 살펴본다.
생각해 볼 질문: 파라미터 수가 10배가 되면 학습 비용은 몇 배가 될까? 필요한 데이터는?
출처 파라미터 수는 각 논문 기준: ELMo: arxiv.org · BERT: arxiv.org · GPT-2: cdn.openai.com · GPT-3: arxiv.org · PaLM: arxiv.org
토큰 생성과 환각
자연스러운 문장과 사실에 맞는 문장은 구분해야 한다. 환각에는 데이터, 학습 목표, 추론 방식, 평가 기준 등 여러 요인이 영향을 준다.
다음 토큰의 선택 과정
디코더형 모델은 앞의 문맥을 보고 다음 단어의 확률분포를 만들고, 그중 하나를 뽑아 문장에 쌓는다. 어떤 규칙으로 뽑느냐(샘플링)가 출력의 성격을 결정한다.
- 지금까지의 문장을 입력으로 넣는다.
- 모델이 다음 단어 후보 전체에 확률을 매긴다.
- 온도(temperature)·Top-k 같은 규칙으로 후보를 조정해 하나를 뽑는다.
- 뽑은 단어를 문장 끝에 붙이고 1로 돌아간다: 문장이 끝날 때까지.
온도와 Top-k에 따른 확률분포
실습 목표: 온도와 Top-k에 따라 토큰 선택 확률이 어떻게 달라지는지 확인한다. 아래는 “오늘 점심 메뉴는 ___”에 대한 가상의 분포다.
실습 방법: 온도를 0.2와 3으로 바꾸고, T=3에서 Top-k를 5로 줄인다. 확인할 내용: 온도에 따른 확률분포의 변화와 Top-k에 따른 후보 제한을 구분한다.
온도는 확률분포의 집중도를 조절하고, Top-k는 상위 k개 후보만 남긴다. Top-p는 누적 확률을 기준으로 후보를 선택한다. 샘플링 설정은 다양성에 영향을 주지만 낮은 온도가 사실성을 보장하지는 않는다.
생각해 볼 질문: T=0(항상 1위 선택)으로 두면 환각이 사라질까? 왜 그렇지 않은가?
간단한 언어모델의 생성 실습
10개 문장으로 구성한 코퍼스에서 단어의 연결 확률을 계산한다. 생성된 문장이 자연스러운지, 사실과 일치하는지 비교한다.
두 단어씩은 맞는데, 문장은 틀리다
실습 목표: 단어의 연결 확률만으로 생성한 문장에 사실 오류가 나타날 수 있음을 확인한다. 아래 10개 문장을 사용한다.
실습 방법: T=0.3과 T=2.0에서 각각 10문장을 생성한다. 확인할 내용: 생성 문장이 코퍼스에 있는지, 사실과 일치하는지 비교한다. 이 실습은 바이그램 모형이며 실제 LLM의 환각을 모두 설명하는 모형은 아니다.
바이그램 모델은 바로 앞 단어를 조건으로 다음 단어를 선택한다. 실제 LLM은 더 긴 문맥과 복잡한 표현을 사용한다. 이 예제는 높은 생성 확률만으로 사실성이 보장되지 않는다는 점을 보여 준다.
온도를 낮추면 높은 확률의 후보에 선택이 집중되어 출력의 다양성이 줄어든다. 그러나 가장 확률이 높은 문장도 틀릴 수 있으므로 사실 확인은 별도로 필요하다.
생각해 볼 질문: 이 장난감 모델의 환각을 없애려면 코퍼스를 어떻게 바꿔야 할까? 그 방법이 실제 LLM에서는 왜 불가능한가?
환각의 원인과 완화 방법
환각에는 학습 데이터와 모델의 학습·추론 방식이 영향을 준다. 불확실한 질문에 대한 응답을 어떻게 평가하는지도 중요한 요인이다.
정답만 보상하고 무응답을 0점으로 처리하면 불확실한 질문에도 답을 시도하는 것이 유리할 수 있다. Kalai 외(2025)는 이러한 평가 방식이 환각에 미치는 영향을 분석하고, 불확실성을 인정하는 응답을 평가에 반영할 것을 제안했다.
환각을 줄이려면 모델 개선뿐 아니라 검색, 근거 확인, 불확실성 표현, 응답 보류 등을 함께 고려해야 한다. 과제별로 오류율과 유용성을 평가한다.
인용과 수치처럼 사실 확인이 필요한 출력은 외부 근거와 대조한다. 불확실한 경우 응답을 보류하도록 설계하고, 답변율과 오류율을 함께 평가한다.
생각해 볼 질문: 감점 있는 시험(오답 −1점, 무응답 0점)을 도입하면 여러분의 답안 전략은 어떻게 바뀌는가? 그것이 이 논문의 제안과 어떻게 같은가?
출처 Kalai, Nachum, Vempala, Zhang, "Why Language Models Hallucinate", 2025-09-04: arxiv.org · 원문 PDF: cdn.openai.com
선호 학습과 정렬
정렬은 모델이 사용자의 의도와 선호에 맞게 응답하도록 학습하는 과정이다. 지도 미세조정과 선호 학습 등 여러 방법을 사용한다.
- 모델이 생성한 답변들을 사람이 평가해 점수로 정량화한다.
- 그 평가를 흉내 내는 보상 모델을 만든다.
- 보상 점수가 높아지도록 강화학습으로 모델을 미세조정한다: 이것이 RLHF다.
LIMA(2023)는 고품질 예시 1,000개로 지도 미세조정한 결과를 보고했다. 소량의 정제된 데이터가 응답 형식과 지시 수행을 개선할 수 있음을 보여 주지만, 모든 정렬 과제에 같은 결과가 보장되는 것은 아니다.
SFT와 RLHF는 사용하는 데이터와 학습 목적이 다르다. 필요한 응답 품질과 평가 조건에 맞춰 비교해야 한다. PPO, DPO, GRPO의 구체적인 차이는 M8에서 다룬다.
생각해 볼 질문: 사람 평가자 대신 다른 AI에게 평가를 시키면(RLAIF) 무엇이 좋아지고 무엇이 위험해질까?
출처 RLHF: Ouyang 외(InstructGPT), 2022: arxiv.org · Bai 외(Anthropic), 2022: arxiv.org · LIMA: Zhou 외, 2023: arxiv.org
RAG, 그리고 에이전트
RAG는 외부 정보를 검색해 응답 생성에 활용한다. 에이전트는 모델의 판단과 도구 실행을 연결해 여러 단계의 작업을 수행한다.
미세조정과 RAG의 비교
회사 내부 지식으로 LLM을 쓰려는 조직은 두 가지 길 앞에 선다. 내부 문서로 모델을 미세조정하거나, 질문마다 문서를 검색해 근거로 붙여 주거나.
| 미세조정 (Fine-tuning) | 검색 증강 (RAG) | |
|---|---|---|
| 출처 표시 | 불가: 어느 지식에서 나온 답인지 알 수 없다 | 가능: 검색된 문단을 근거로 제시 |
| 지식 갱신 | 문서가 바뀔 때마다 재훈련 | 색인만 갱신하면 즉시 반영 |
| 접근 제어 | 불가: 모델은 추론 시 지식을 가려낼 수 없다 | 가능: 사용자 권한별로 검색 범위 제한 |
| 비용 | 훈련 + 대형 모델 상시 호스팅 | 색인 구축 + 기성 모델 호출 |
| 유리한 경우 | 말투·형식·도메인 문체의 체화 | 사실 기반 질의응답, 근거가 필요한 업무 |
미세조정은 답변 형식이나 특정 과제의 수행 방식을 학습하는 데, RAG는 갱신되는 정보를 검색해 제공하는 데 활용할 수 있다. 두 방법을 함께 사용하는 구성도 가능하다.
생각해 볼 질문: 병원 챗봇에 환자별 진료 기록을 공급해야 한다면, 접근 제어 행 하나만으로도 선택이 정해지는 이유는?
RAG의 두 단계: 준비와 서비스
RAG는 LLM이 응답을 생성하기 전에, 학습 데이터 밖의 신뢰할 수 있는 지식 베이스를 참조하게 만드는 절차다. 미리 색인하는 단계와, 질문마다 검색해 붙이는 단계가 분리되어 있다.
벡터 검색에서는 질문과 문서 조각을 임베딩으로 변환하고 유사도를 비교한다. 관련 문서 조각을 LLM의 입력에 추가해 응답의 근거로 사용한다.
RAG의 품질에는 검색 결과와 생성 과정이 모두 영향을 준다. 관련 없는 문서를 검색하거나 모델이 근거를 잘못 해석하면 오류가 생긴다. 문서 분할, 색인, 검색 성능, 근거 활용을 각각 점검해야 한다.
RAG는 Retrieval-Augmented Generation의 약자다. 검색한 정보를 입력에 추가하는 과정을 증강이라고 한다.
생각해 볼 질문: 검색된 문단과 모델의 내부 지식이 서로 충돌하면 어느 쪽을 따르게 해야 할까? 프롬프트로 어떻게 지시하겠는가?
출처 Lewis 외, "Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks", NeurIPS 2020: arxiv.org · 개념 정리: aws.amazon.com
에이전트의 작업 수행
한 번 묻고 한 번 답하는 사용법을 넘어, 모델이 스스로 계획을 세우고 도구를 쓰며 결과를 평가하는 구조가 실용화됐다.
- 목표를 받아 단계별 계획을 수립한다.
- 각 단계에 필요한 작업(검색, 코드 실행, 파일 작성)을 판단해 실행한다.
- 평가 기준을 세우고 전체 결과를 점검한다.
- 부족한 부분을 피드백해 계획을 재조정하고 다시 수행한다.
에이전트는 단계별 결과를 검증하고 실패를 처리하도록 설계해야 한다. 각 단계의 성공이 독립이고 성공률이 95%로 같다면, 10단계를 모두 성공할 확률은 약 60%다. 실제 성공률은 단계 간 의존성과 오류 복구 방식에 따라 달라진다.
생각해 볼 질문: "이메일을 대신 보내 주는 에이전트"에서 사람의 승인이 반드시 필요한 지점은 어디인가?
추론 모델과 평가 범위
일부 모델은 응답 전에 중간 추론이나 후보 탐색에 추가 계산을 사용한다. 계산량에 따른 성능 변화는 과제별로 평가해야 한다.
o1(2024)과 DeepSeek-R1(2025)은 이러한 접근의 사례다. DeepSeek-R1은 강화학습을 이용한 추론 능력 학습을 보고했다. 관련 알고리즘은 M8에서 살펴본다.
추론 계산량을 늘렸을 때의 성능 향상과 AGI에 관한 해석은 구분해야 한다. 어떤 과제와 조건에서 결과가 확인되었는지 살펴본다.
생각해 볼 질문: "생각을 길게 하면 성능이 오른다"는 결과만으로 "스스로 개선하는 지능"을 주장할 수 있는가? 빠져 있는 논리 단계를 찾아보자.
출처 o1 소개: openai.com · DeepSeek-R1, 2025: arxiv.org
20줄로 LLM 돌려 보기
실습에서는 디코더형 모델 실행, 대화 기록 전달, 샘플링 설정을 코드로 확인한다.
Hugging Face 파이프라인 챗봇
실습 목표: "LLM 실행"의 최소 형태를 확인한다. 실행에는 Hugging Face 계정·토큰과 GPU 환경(Colab 가능)이 필요하다: 절차는 실습 노트북(인공지능실습2주차)에서 진행한다.
확인할 내용: messages에 사용자 입력과 모델 응답이 추가되고, 다음 호출 때 대화 기록이 다시 전달되는지 확인한다. 대화가 길어질 때 입력 토큰 수와 컨텍스트 제한에 미치는 영향도 살펴본다.
요약 정리
생성 과정, 환각의 원인, 외부 정보 활용 방법을 정리한다.
핵심 내용
- LLM은 문맥을 바탕으로 다음 토큰을 생성한다. 챗봇 시스템은 필요에 따라 검색과 외부 도구를 함께 사용할 수 있다.
- 생성 확률이 높다고 사실성이 보장되지는 않는다. 데이터와 학습·평가 방식의 영향을 살펴보고 출력 내용을 검증해야 한다.
- RAG는 검색한 정보를 응답의 근거로 제공한다. 검색 결과의 적합성과 모델의 근거 활용을 함께 평가한다.
다음 장에서는 사람이 작성한 지식과 규칙으로 추론하는 전문가 시스템을 살펴본다. 지식표현, 추론 과정, 유지보수의 특징을 비교한다.
참고문헌
공개 원문(arXiv · 학회 · 저자 기관) 우선. 링크는 2026년 8월 확인 기준.
생성 모델
- Kingma, D. P., & Welling, M. (2013). Auto-Encoding Variational Bayes. arxiv.org/abs/1312.6114
- Goodfellow, I., et al. (2014). Generative Adversarial Networks. NeurIPS 27. arxiv.org/abs/1406.2661
- Sohl-Dickstein, J., et al. (2015). Deep Unsupervised Learning using Nonequilibrium Thermodynamics. ICML. arxiv.org/abs/1503.03585
- Ho, J., Jain, A., & Abbeel, P. (2020). Denoising Diffusion Probabilistic Models. NeurIPS. arxiv.org/abs/2006.11239
트랜스포머와 언어모델
- Bahdanau, D., Cho, K., & Bengio, Y. (2014). Neural Machine Translation by Jointly Learning to Align and Translate. ICLR 2015. arxiv.org/abs/1409.0473
- Vaswani, A., et al. (2017). Attention Is All You Need. NeurIPS 30. arxiv.org/abs/1706.03762
- Peters, M., et al. (2018). Deep Contextualized Word Representations (ELMo). NAACL. arxiv.org/abs/1802.05365
- Devlin, J., et al. (2018). BERT: Pre-training of Deep Bidirectional Transformers. NAACL 2019. arxiv.org/abs/1810.04805
- Radford, A., et al. (2018). Improving Language Understanding by Generative Pre-Training (GPT-1). cdn.openai.com
- Radford, A., et al. (2019). Language Models are Unsupervised Multitask Learners (GPT-2). cdn.openai.com
- Raffel, C., et al. (2019). Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer (T5). JMLR 21, 2020. arxiv.org/abs/1910.10683
- Lewis, M., et al. (2019). BART: Denoising Sequence-to-Sequence Pre-training for Natural Language Generation, Translation, and Comprehension. ACL 2020. arxiv.org/abs/1910.13461
- Kaplan, J., et al. (2020). Scaling Laws for Neural Language Models. arxiv.org/abs/2001.08361
- Brown, T., et al. (2020). Language Models are Few-Shot Learners (GPT-3). NeurIPS. arxiv.org/abs/2005.14165
- Wang, T., et al. (2022). What Language Model Architecture and Pretraining Objective Work Best for Zero-Shot Generalization? ICML. arxiv.org/abs/2204.05832
- Chowdhery, A., et al. (2022). PaLM: Scaling Language Modeling with Pathways. arxiv.org/abs/2204.02311
정렬 · 환각 · 검색 증강
- Christiano, P., et al. (2017). Deep Reinforcement Learning from Human Preferences. NeurIPS. arxiv.org/abs/1706.03741
- Lewis, P., et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. NeurIPS. arxiv.org/abs/2005.11401
- Ouyang, L., et al. (2022). Training Language Models to Follow Instructions with Human Feedback (InstructGPT). arxiv.org/abs/2203.02155
- Bai, Y., et al. (2022). Training a Helpful and Harmless Assistant with RLHF. arxiv.org/abs/2204.05862
- Zhou, C., et al. (2023). LIMA: Less Is More for Alignment. NeurIPS. arxiv.org/abs/2305.11206
- Kalai, A. T., Nachum, O., Vempala, S., & Zhang, E. (2025). Why Language Models Hallucinate. arxiv.org/abs/2509.04664
- DeepSeek-AI (2025). DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning. arxiv.org/abs/2501.12948
개관 · 기술 문서 (연표·개념 대조용)
- AWS. What is Retrieval-Augmented Generation? aws.amazon.com
- OpenAI. (2024). Learning to Reason with LLMs (o1). openai.com
- Reuters. (2023-02-02). ChatGPT sets record for fastest-growing user base. reuters.com
연도는 arXiv 최초 공개(발표) 기준으로 적고, 확산·실용화 시점이 다른 경우(확산 모델 2015/2020) 병기했다. 파라미터 수는 각 논문 본문의 값이다. 1억 사용자(2개월)는 제3자 데이터에 기반한 분석사의 추정치로, 본문에 "추정"으로 표시했다. RSI·물리 병목은 합의된 사실이 아닌 해석으로, "논쟁"으로 표시했다.