나만의 AI 챗봇 만들기
— 웹 검색 + Gradio

기본 챗봇에서 배포까지, 다섯 단계

각 단계는 앞 단계의 한계를 발견하고 그것을 해결하며 나아간다. 코드는 AI에게 요청해서 만들고, 우리는 구조를 이해하고 확인한다.

웹 검색 챗봇 = RAG와 동일한 구조

질문 → DuckDuckGo 검색 → 결과 5개 수집 → LLM 프롬프트에 삽입 → 답변 생성. 이 파이프라인은 앞 장의 RAG와 동일한 구조다. 벡터 DB 대신 DuckDuckGo가 검색을 담당한다.

실습 준비물 세 가지

폴더 하나, 라이브러리 설치 한 줄, HF 토큰. 이 세 가지면 시작할 수 있다.

1. 작업 폴더 my_chatbot을 만든다.
2. 라이브러리를 설치한다.
3. HF 토큰을 준비한다 (HuggingFace Inference API 호출에 사용).

pip install gradio huggingface_hub duckduckgo-search -q

• my_chatbot 폴더 생성 완료
• 세 라이브러리 설치 오류 없음
• HF 토큰 확보

fn(message, history) 하나면 채팅 앱이 된다

gr.ChatInterface는 Gradio의 내장 채팅 UI다. 입력창·전송 버튼·대화 기록이 자동으로 구성되고, 우리는 fn(message, history) → 응답 반환 함수 하나만 만들면 된다.

핵심은 history다. 이전 대화 기록을 LLM에 함께 전달하면 챗봇이 이전 맥락을 기억한다. 전달하지 않으면 매 턴이 첫 대화가 된다.

Gradio gr.ChatInterface로 AI 챗봇을 만들어줘.
조건:
- HuggingFace Inference API 사용 (모델: Qwen/Qwen3-8B)
- HF_TOKEN은 환경변수에서 로드, 없으면 앱 실행 시 입력창 표시
- 대화 히스토리를 LLM에 전달해서 이전 맥락 유지 (최근 5턴까지만 전달)
- 시스템 프롬프트: "당신은 친절한 AI 어시스턴트입니다. 한국어로 답변하세요."
- gr.ChatInterface 설정: title "🤖 AI 어시스턴트", description "무엇이든 물어보세요", retry/undo/clear 버튼 표시
파일명: app.py

python app.py

확인 포인트

• 브라우저에 채팅 UI가 열린다
• 한국어로 답변한다
• "방금 말한 거 다시 설명해줘" → 이전 맥락을 유지한다

검색 결과를 프롬프트 앞에 붙인다

duckduckgo-search로 실시간 검색을 하고, 결과(제목+URL+요약)를 [참고자료]로 프롬프트 앞에 삽입한다.

예를 들어 "TSMC 오늘 주가 왜 올랐어?"라고 물으면 ① 이 질문으로 검색하고 ② 결과를 수집한 뒤(Reuters, Bloomberg…) ③ [참고자료]+질문 형태의 프롬프트를 만들어 ④ 답변을 생성한다.

app.py에 DuckDuckGo 웹 검색 기능을 추가해줘.
조건:
- duckduckgo_search 라이브러리의 DDGS().text() 사용
- 사용자 메시지로 검색, max_results=5
- 검색 결과를 "[웹 검색 결과] 1. {title} - {url} {body} ..." 형식으로 프롬프트 앞에 삽입,
  "위 검색 결과를 참고해서 다음 질문에 답하세요. 출처 URL을 답변 마지막에 표시하세요."
- 검색 실패 시 검색 없이 LLM만으로 답변 (오류 표시 없이 자연스럽게)
- 채팅 UI 하단에 "🔍 검색 중..." 상태 표시 후 답변으로 교체

테스트해 볼 질문

• "NVIDIA 오늘 뉴스 알려줘"
• "삼성전자 최근 반도체 현황은?"
• "오늘 날씨 어때?"

판단 프롬프트로 분기하는 파이프라인

LLM에게 먼저 "이 질문이 검색이 필요한가?"를 판단시킨다. 검색이 필요한 질문은 최신 뉴스·시세·날씨·이벤트, 불필요한 질문은 개념 설명·계산·번역·코드·일반 지식이다.

흐름은 이렇다. 질문 → 판단 프롬프트("최신 정보 필요하면 YES 아니면 NO만") → YES면 검색 후 답변, NO면 바로 답변.

app.py에 검색 필요 여부를 AI가 판단하는 기능을 추가해줘.
- 판단 프롬프트: "다음 질문에 답하려면 최신 뉴스, 실시간 데이터, 오늘 날짜 기준 정보가 필요한가요? YES 또는 NO 한 단어만 답하세요. 질문: {message}"
- YES면 DuckDuckGo 검색 후 결과 포함 답변 / NO면 바로 답변
- 답변 상단 표시: 검색 시 "🔍 웹 검색 후 답변" / 미검색 시 "💬 직접 답변"
- 판단 오류 시 기본적으로 검색 실행

확인 포인트 — 두 그룹으로 나눠 테스트

• 검색해야 하는 질문: "NVIDIA 오늘 주가" / "지금 비트코인 얼마야?" / "삼성 최근 인사 발표"
• 검색 불필요한 질문: "반도체가 뭐야?" / "123×456은?" / "파이썬 정렬 방법"
• 답변 상단에 🔍 / 💬 표시가 질문 성격에 맞게 갈라진다

시스템 프롬프트 = 챗봇의 페르소나

이 단계에서 세 가지를 완성한다. 출처를 클릭 가능한 링크로, 시스템 프롬프트 설정창, 검색 모드 토글(항상/자동/안함).

특히 주목할 것은 시스템 프롬프트다. 같은 모델, 같은 코드라도 시스템 프롬프트만 바꾸면 챗봇의 성격이 완전히 달라진다.

프롬프트만 바꾸면 챗봇 성격이 달라진다. 코드도, 모델도, 데이터도 그대로인데 페르소나가 바뀐다 — 이것이 이 단계의 핵심 포인트다.

app.py UI를 완성형으로 업그레이드해줘.
1. 출처 링크: 답변 하단 "📎 출처: [Reuters](url) | [Bloomberg](url)"
2. 사이드바 설정 패널 (gr.Accordion): 시스템 프롬프트 textarea / 검색 모드 라디오(🤖 자동 판단(기본), 🔍 항상 검색, 💬 검색 안 함) / 검색 결과 수 슬라이더(1~10, 기본 5) / 모델 선택 드롭다운(Qwen3-8B, Qwen3-4B-Instruct-2507, Mistral-7B-Instruct-v0.3)
3. 대화 내보내기: [대화 저장] 버튼 → txt 다운로드

확인 포인트

• 출처 링크가 클릭된다
• 시스템 프롬프트를 바꾸면 답변 스타일에 반영된다
• "항상 검색" 모드가 동작한다
• 모델을 바꾸면 답변 스타일이 달라진다
• [대화 저장] 버튼으로 txt가 다운로드된다

app.py와 requirements.txt, 두 파일이면 끝

배포에 필요한 것은 폴더 안의 두 파일뿐이다.

my_chatbot/
├── app.py
└── requirements.txt   (gradio, huggingface_hub, duckduckgo-search)

1. huggingface.co 접속 → New Space 클릭
2. SDK: Gradio 선택 → 생성
3. Settings → Variables and secrets에 HF_TOKEN 추가
4. Files 탭에 app.py · requirements.txt 업로드
5. 자동 빌드 완료를 기다린 뒤 Space URL 공유 (Public/Private 선택)

확인 포인트

• Space URL로 접속된다
• 스마트폰에서도 접속된다
• 팀원과 동시에 사용해도 동작한다

지금 내 챗봇이 할 수 있는 것

여기서 더 나아가려면

• 반도체 뉴스 DB 연결 — Supabase 기사도 함께 검색하는 웹 + RAG 혼합 구조.
• PDF 업로드 — 문서 기반 대화.
• 이미지 입력 — 차트 분석.
• 음성 입력 — gr.Audio.

시스템 프롬프트로 페르소나가 바뀐다는 이 포인트가 그대로 다음 장으로 이어진다 — 다음 장에서는 같은 챗봇 뼈대에 "OO전자 사내 규정 전문가" 페르소나와 규정 문서를 얹어 사내 규정 챗봇을 만든다.

출처 원본 노션 실습 자료: 나만의 AI 챗봇 만들기 (웹 검색 + Gradio)