생성형 AI
메커니즘 이해

규칙 기반에서 멀티모달 에이전트까지

지금 쓰는 생성형 AI는 갑자기 나타난 것이 아니다. 70년의 흐름에서 두 번의 전환점이 있었다. 데이터로부터 스스로 배우기 시작한 것(머신러닝), 그리고 어텐션으로 언어를 다루게 된 것(Transformer)이다.

참고 영상 9 AI Concepts Explained in 7 minutes (ByteByteGo) — Tokenization, Text Decoding, Prompt Engineering, Agents, RAGs, RLHF, VAE, Diffusion, LoRA, youtube.com/watch?v=nVnxG10D5W0

다음 단어를 예측하는 기계

핵심은 하나다. LLM은 '다음에 올 단어'를 예측하는 기계다. 입력 텍스트는 다음 경로를 거쳐 출력이 된다.

입력 텍스트 → 토큰 분리 → 숫자 벡터 변환 → Transformer 연산 → 확률 계산 → 단어 생성

1. 토큰화 — 텍스트를 최소 단위로 쪼갠다. '안녕하세요' → ['안녕', '하세', '요'] → [1423, 892, 31]
2. 임베딩 — 숫자 ID를 고차원 벡터로 바꿔 의미를 숫자로 표현한다. '왕' − '남자' + '여자' ≈ '여왕'
3. Transformer (Self-Attention) — 문장 내 단어들이 서로 얼마나 관련 있는지 계산한다. '나는 사과를 먹었다' → '먹었다'가 '사과'를 강하게 참조
4. 확률 생성 — 다음 토큰 후보들의 확률 분포를 계산한다. '오늘 날씨가 ___' → {'맑다': 0.4, '흐리다': 0.3, '좋다': 0.2, ...}. temperature가 높을수록 다양한 단어를 선택한다.

프롬프트가 중요한 이유

LLM은 입력(프롬프트)에 따라 전혀 다른 결과를 낸다. 같은 모델이라도 프롬프트 설계에 따라 전문가 수준과 엉터리 답변의 차이가 난다.

모델이 한 번에 읽을 수 있는 양

컨텍스트 윈도우는 LLM이 한 번에 처리할 수 있는 텍스트 길이(토큰 수)다. Claude 3.5 기준 200K 토큰, 책 한 권 분량이다.

중요한 것은 크기 자체가 아니라 활용이다. 컨텍스트에 무엇을 넣느냐가 답변 품질을 결정한다. 필요한 문서를 검색해서 컨텍스트에 넣어주는 것 — 이것이 뒤에서 배울 RAG의 핵심 원리다.

안티그래비티 IDE 접속 및 확인

워크스페이스를 만들고 터미널에서 기본 도구 세 가지가 준비되어 있는지 확인한다.

1. 안티그래비티에 로그인 후 새 워크스페이스를 생성한다.
2. 터미널을 연다 (상단 메뉴 → Terminal → New Terminal).
3. 환경을 확인한다.

python --version     # Python 3.10 이상 확인
pip --version        # pip 확인
git --version        # git 확인

• Python 3.10 이상 버전이 출력된다
• pip, git 버전이 각각 출력된다

기본 폴더 구조 생성

데이터·리포트·스크립트를 나눠 담을 작업 폴더를 만든다. 이후 모든 실습이 이 폴더 안에서 진행된다.

mkdir -p genai_workspace/{data,reports,scripts}
cd genai_workspace
ls

genai_workspace/
├── data/      (실습용 데이터)
├── reports/   (생성된 리포트)
└── scripts/   (실습 스크립트)

• ls 결과에 data, reports, scripts 세 폴더가 보인다

필수 패키지 설치

8시간 동안 쓸 패키지를 한 번에 설치한다. 설치에 2~3분 걸린다.

pip install gradio huggingface_hub sentence-transformers \
            faiss-cpu requests beautifulsoup4 \
            supabase apscheduler duckduckgo-search -q

오류가 나면 Claude Code에게 오류 메시지를 그대로 전달한다.

• 설치가 오류 없이 끝난다

HuggingFace 토큰 등록

LLM 호출에 쓸 HuggingFace 토큰을 발급받아 등록하고, 실제로 모델이 응답하는지까지 확인한다.

1. huggingface.co → 로그인 → Settings → Access Tokens → New token → Role: Read → 토큰 복사
2. 토큰을 등록한다 (두 방법 중 택일).

# 방법 A: 환경변수로 등록 (세션 동안 유지)
export HF_TOKEN=hf_xxxxxxxxxxxxxxxxxxxx
# 방법 B: .env 파일로 저장 (영구 보관)
echo 'HF_TOKEN=hf_xxxxxxxxxxxxxxxxxxxx' > .env

토큰 동작 확인

python -c "
from huggingface_hub import InferenceClient
import os
client = InferenceClient(token=os.environ.get('HF_TOKEN'))
result = client.text_generation('안녕하세요, 한 문장으로 답해줘', model='Qwen/Qwen3-8B', max_new_tokens=50)
print(result)
"

• LLM 응답이 출력되면 토큰 등록 완료

Claude Code 기본 사용법

터미널에서 claude 명령어로 실행한다. 파일 생성·코드 실행·오류 수정을 자연어로 지시할 수 있다.

genai_workspace 폴더 안에 hello_ai.py 파일을 만들어줘.
HuggingFace Inference API로 Qwen/Qwen3-8B 모델을 호출해서
"생성형 AI를 한 문장으로 설명해줘" 라고 물어보는 코드를 작성해.
HF_TOKEN은 환경변수에서 읽어와.

실행

python genai_workspace/hello_ai.py

• claude 명령어로 Claude Code가 실행된다
• hello_ai.py 실행 결과로 AI의 답변이 출력된다

Supabase 계정 준비 (7H 이후 사용)

7H 실습(데이터베이스 연동)에서 쓸 Supabase 계정을 미리 만들어 둔다. 지금 당장 쓰지는 않으므로 7H 전까지만 준비하면 된다.

1. supabase.com → Sign Up (GitHub 계정 권장) → New Project (genai-practice) → 비밀번호 설정
2. Settings → API 에서 Project URL, anon key를 메모해 둔다.

• Supabase 프로젝트 genai-practice가 생성되어 있다
• Project URL과 anon key를 메모했다

다음 시간 전에 전부 체크되어야 한다

• Python 3.10+ 확인
• 필수 패키지 설치 완료
• HuggingFace 토큰 등록 및 LLM 응답 확인
• claude 명령어로 Claude Code 실행 확인
• hello_ai.py 실행해서 AI 답변 수신
• Supabase 계정 생성 (7H 전까지)

이 장의 용어 정리

원본 노션 실습 자료 「1H — 생성형 AI 메커니즘 이해」, indecisive-pyramid-af1.notion.site