📘 AI 에이전트 이해하기: LLM부터 RAG, MCP까지

• 🧠 LLM 기초 이해하기
• 📚 RAG: LLM에게 참고 자료를 주기
• 🔧 MCP: LLM에게 도구를 주기
• ⚡ RAG vs MCP: 무엇이 다른가?
• 📖 실전 가이드 및 핵심 정리

🧠 LLM 기초 이해하기

💡 LLM이란?

LLM(Large Language Model) 은 '대규모 언어 모델'이라는 뜻으로, 방대한 텍스트 데이터를 학습해서 사람처럼 언어를 이해하고 생성할 수 있는 AI입니다.

🎯 실생활 비유

매우 똑똑한 사람이 수많은 책, 기사, 대화를 읽고 공부한 후, 여러분의 질문에 답변해주는 것을 상상해보세요. 바로 그게 LLM입니다.

대표적인 LLM: ChatGPT, Claude, Gemini 등 🤖

⚙️ LLM은 어떻게 동작할까?

LLM의 동작 원리를 3단계로 이해할 수 있습니다.

1️⃣ 학습 (Training)

비유: 학생이 교과서를 읽고 공부하는 과정 📚

• 인터넷의 방대한 텍스트 데이터(책, 기사, 웹사이트, 코드 등)를 읽음
• 단어들의 패턴과 관계를 학습
• "이 단어 다음에는 어떤 단어가 올 확률이 높은가?"를 수백억 번 반복해서 배움

예시:

학습 데이터: "서울은 대한민국의 수도이다"
→ LLM 학습: "수도" 다음에 "이다"가 올 확률 높음
→ "대한민국"과 "서울"이 함께 나타날 확률 높음

2️⃣ 이해 (Understanding)

비유: 질문을 듣고 무슨 뜻인지 파악하는 과정 🤔

사용자가 입력한 문장을 단어 단위로 쪼개고, 각 단어의 의미와 맥락을 이해합니다.

예시:

입력: "사과가 맛있어"
→ LLM 분석: 
  - "사과" = 과일 (아니면 사과하다? 문맥상 과일!)
  - "맛있어" = 긍정적 표현
  - 전체 의미: 과일 사과의 맛에 대한 긍정적 평가

3️⃣ 생성 (Generation)

비유: 답안을 한 글자씩 써 내려가는 과정 ✍️

학습한 패턴을 바탕으로 가장 적절한 다음 단어를 하나씩 예측하며 답변을 생성합니다.

예시:

질문: "대한민국의 수도는?"

생성 과정:
1. "대한민국" → 다음 단어 예측 → "의" (확률 높음)
2. "의" → 다음 단어 예측 → "수도는" (확률 높음)  
3. "수도는" → 다음 단어 예측 → "서울" (확률 매우 높음)
4. "서울" → 다음 단어 예측 → "입니다" (확률 높음)

최종 답변: "대한민국의 수도는 서울입니다"

🎲 LLM 동작의 핵심: 확률과 패턴

LLM은 정답을 "암기"한 것이 아니라, 수많은 데이터에서 발견한 패턴과 확률을 바탕으로 답변합니다.

좋은 점: 유연하고 창의적인 답변 가능 ✨
나쁜 점: 때때로 그럴듯하지만 틀린 답변 생성 (환각) ⚠️

📊 시각적 이해

[사용자 입력] 
    ↓
[토큰화] → "대한민국" + "의" + "수도" + "는" + "?"
    ↓
[LLM 신경망 처리]
  - 수십억 개의 파라미터(가중치)
  - 각 단어 간 관계 분석
  - 맥락 이해
    ↓
[다음 단어 예측]
  - "서울" (확률 85%)
  - "부산" (확률 3%)
  - "도쿄" (확률 0.1%)
    ↓
[가장 확률 높은 단어 선택] → "서울"
    ↓
[반복] → "입니다" → "." 
    ↓
[최종 출력] "서울입니다."

🎭 LLM의 특징

✅ 강점

• 자연스러운 대화 가능
• 다양한 주제에 대한 일반 지식 보유
• 텍스트 생성, 요약, 번역 등 다재다능
• 맥락을 이해하고 창의적인 답변 생성

⚠️ 한계

• 학습된 데이터까지만 알고 있음 (예: 2024년에 학습했다면 2025년 정보는 모름)
• 회사 내부 정보나 개인 정보는 모름
• 가끔 틀린 정보를 그럴듯하게 말함 (환각, Hallucination)
• 외부 도구나 시스템을 직접 사용할 수 없음
• 확률 기반이라 매번 조금씩 다른 답변 생성 가능

🚀 다음은?

LLM의 한계를 극복하기 위해 RAG와 MCP라는 기술이 등장했습니다. 다음 문서에서 이 기술들을 알아보겠습니다.

📚 RAG: LLM에게 참고 자료를 주기

🚫 LLM의 한계

LLM은 똑똑하지만, 혼자서는 할 수 없는 일들이 많습니다.

📋 문제 상황 예시

사용자 요청	LLM의 문제	필요한 해결책
"우리 회사 2024년 매출은?"	회사 내부 정보를 모름	회사 문서에 접근 필요
"지금 서울 날씨는?"	실시간 정보를 모름	날씨 API 호출 필요
"내 캘린더에 회의 등록해줘"	외부 도구를 사용 못함	캘린더 시스템 연동 필요
"최근 뉴스 요약해줘"	최신 정보가 없음	뉴스 검색 기능 필요

💡 RAG란? (Retrieval-Augmented Generation)

LLM이 답변하기 전에 관련 문서나 정보를 먼저 찾아서 참고하도록 하는 기술입니다.

🤔 왜 필요한가?

문제 ❌: LLM은 학습하지 않은 정보(회사 문서, 최신 자료 등)를 모릅니다.

해결 ✅: 질문과 관련된 문서를 검색해서 LLM에게 보여주고, 그걸 참고해서 답변하게 합니다.

⚙️ 동작 원리

1. 사용자: "2024년 3분기 매출 보고서 내용은?"
   ↓
2. RAG 시스템: 문서 데이터베이스에서 "2024년 3분기 매출 보고서" 검색
   ↓
3. RAG 시스템: 관련 문서 내용을 찾아서 LLM에게 전달
   ↓
4. LLM: 받은 문서를 읽고 자연스러운 답변 생성
   ↓
5. 사용자: "3분기 매출은 120억원으로 전년 대비 15% 증가했습니다"

🎯 실생활 비유

오픈북 시험 📖을 생각하면 됩니다.

• 일반 LLM: 교과서 없이 머리로만 시험 보기
• RAG 적용 LLM: 시험 볼 때 교과서를 펼쳐서 찾아보며 답 쓰기

⚖️ 장점과 단점

✅ 장점

• 최신 정보 제공: 문서만 업데이트하면 최신 정보 답변 가능
• 정확성 향상: 실제 자료를 참고하므로 거짓말(환각) 감소
• 출처 명시: "이 정보는 XX 문서에서 찾았습니다" 라고 알려줄 수 있음
• 전문 지식: 회사 내부 문서, 매뉴얼, 법률 자료 등 특정 분야에 강함
• 비용 효율적: LLM 재학습 없이 문서만 추가하면 됨

⚠️ 단점

• 검색 품질에 의존: 검색이 잘못되면 답변도 틀림
• 응답 시간: 검색하는 시간이 추가되어 조금 느림
• 초기 구축 비용: 문서 DB, 검색 엔진 등 인프라 필요
• 정적 데이터: 실시간 변화하는 정보에는 부적합

🎮 적합한 사용 사례

• 게임 패치 노트 챗봇 ⭐
• 사내 지식베이스 검색 챗봇
• 고객 지원 시스템 (FAQ, 매뉴얼)
• 법률/의료 상담 (전문 문서 참조)
• 제품 문서 검색
• 학술 논문 검색 및 요약

🎮 게임 패치 노트 챗봇 예시

상황: 롤(LoL) 패치 노트가 매번 너무 길고 복잡해서 유저들이 읽기 힘들어함 😵

❌ RAG 적용 전 (일반 LLM)

• 유저: "이번 패치에서 야스오 버프됐어?"
• LLM: "죄송합니다. 최신 패치 정보는 제 학습 데이터에 없어서 알 수 없습니다."
• ❌ 문제: 최신 패치 노트를 모름

✅ RAG 적용 후

1. 유저: "이번 14.3 패치에서 야스오 변경사항 알려줘"
   ↓
2. RAG 시스템: 패치 노트 DB에서 "14.3 패치" + "야스오" 검색
   ↓
3. 검색 결과: "야스오 - Q 스킬 쿨다운 4초 → 3.5초, 
              E 스킬 대미지 60/70/80/90/100 → 70/80/90/100/110"
   ↓
4. LLM: 검색된 정보를 바탕으로 자연스럽게 답변 생성
   ↓
5. 챗봇: "14.3 패치에서 야스오가 버프되었습니다!
          - Q(강철 폭풍) 쿨다운이 4초에서 3.5초로 감소했어요
          - E(질풍검) 대미지가 모든 레벨에서 10씩 증가했습니다
          전반적으로 초반 라인전이 강화되는 버프네요!"

🌟 RAG의 장점 (게임 챗봇 관점)

• ✅ 매 패치마다 새로운 노트를 DB에 추가하기만 하면 됨
• ✅ "출처: 14.3 패치 노트" 같이 어디서 찾은 정보인지 보여줄 수 있음
• ✅ "이전 패치와 비교해줘" 같은 질문도 여러 패치 노트를 검색해서 답변 가능
• ✅ LLM 재학습 없이 계속 최신 정보 제공

📝 RAG가 필요한 경우

사용자가 "알고 싶어하는" 상황 🤔:

• ✅ 패치 노트 내용 검색
• ✅ 챔피언 스킬 정보, 아이템 효과 조회
• ✅ 과거 패치 히스토리 비교
• ✅ 메타 변화 분석 문서
• ✅ 사내 규정이나 정책 문의
• ✅ 고객 FAQ 자동 응답

게임 챗봇 예시 질문들 💬:

• "14.3 패치에서 야스오 변경사항은?"
• "지난 5개 패치에서 원딜 버프 내역 정리해줘"
• "도란 검 패시브 효과가 뭐였지?"

🔧 MCP: LLM에게 도구를 주기

💡 MCP란? (Model Context Protocol)

LLM이 다양한 외부 시스템, 도구, API를 표준화된 방식으로 사용할 수 있게 해주는 프로토콜(규격)입니다.

🤔 왜 필요한가?

문제 ❌: LLM은 정보를 알려줄 수만 있고, 실제로 행동하거나 외부 시스템을 조작할 수 없습니다.

해결 ✅: LLM이 필요할 때 외부 도구를 호출해서 사용할 수 있게 표준 인터페이스를 제공합니다.

⚙️ 동작 원리

1. 사용자: "오늘 날씨 확인하고 비 오면 회의 일정 실내로 변경해줘"
   ↓
2. LLM 판단: "날씨 API 호출 필요" + "캘린더 수정 필요"
   ↓
3. MCP 서버: 날씨 API 호출 → "오후 3시 비 예보"
   ↓
4. MCP 서버: 캘린더 API 호출 → 회의 장소를 "3층 회의실"로 변경
   ↓
5. LLM: 결과를 받아서 답변 생성
   ↓
6. 사용자: "오늘 오후 비가 예보되어 회의 장소를 3층 회의실로 변경했습니다"

🎯 실생활 비유

스마트폰의 USB-C 포트 🔌를 생각하면 됩니다.

• MCP 이전: 각 기기마다 다른 케이블 필요 (iPhone은 Lightning, Android는 USB-C)
• MCP 적용: 모든 AI가 같은 방식으로 도구 연결 (표준 규격 사용)

⚖️ 장점과 단점

✅ 장점

• 표준화: 한 번 만들면 여러 AI에서 재사용 가능
• 확장 용이: 새로운 도구를 플러그인처럼 쉽게 추가
• 실시간 데이터: API를 통해 항상 최신 정보 조회
• 액션 수행: 정보 제공을 넘어 실제 작업 실행 (메일 발송, 문서 작성 등)
• 멀티 툴 조합: 여러 도구를 연계해서 복잡한 작업 수행

⚠️ 단점

• 새로운 기술: 2024년 말에 발표되어 아직 생태계 발전 중
• 구축 복잡도: MCP 서버 설정 및 각 도구 연동 작업 필요
• 의존성: MCP 서버나 연결된 API가 다운되면 기능 중단
• 보안 관리: 외부 시스템 접근 권한을 세심하게 관리해야 함
• 비용: 각 API 호출마다 비용 발생 가능

🎯 적합한 사용 사례

• 업무 자동화 (이메일, 캘린더, 문서 작성)
• 멀티 서비스 통합 (Slack, Notion, Jira, GitHub 등)
• 실시간 데이터 조회 (주식, 날씨, 뉴스, 교통)
• 전자상거래 (주문, 결제, 배송 조회)
• IoT 기기 제어 (스마트홈, 센서)
• 게임 데이터 조회 및 자동화 ⭐

🎮 게임 패치 노트 챗봇 예시

상황: 유저가 실시간 게임 통계도 알고 싶어함 📊

❌ MCP 적용 전 (RAG만 사용)

• 유저: "야스오 현재 승률이 어떻게 돼?"
• 챗봇: "죄송합니다. 패치 노트에는 승률 정보가 없습니다."
• ❌ 문제: 정적인 문서만 검색 가능, 실시간 데이터 조회 불가

✅ MCP 적용 후

1. 유저: "야스오 이번 패치 후 승률 어때? 그리고 내 전적도 알려줘"
   ↓
2. LLM 판단: 
   - "승률" → Riot API 호출 필요
   - "내 전적" → 게임 계정 API 호출 필요
   ↓
3. MCP 서버: 
   - Riot API 호출 → "야스오 승률 52.3% (골드 이상)"
   - 사용자 계정 API 호출 → "최근 야스오 5판 3승 2패"
   ↓
4. LLM: 받은 데이터로 답변 생성
   ↓
5. 챗봇: "야스오의 현재 승률은 52.3%로 상위권입니다!
          버프 후 약 2% 상승했네요.
          
          당신의 야스오 최근 전적은 5판 3승 2패 (승률 60%)입니다.
          평균보다 잘 플레이하고 계시네요! 🎮"

🌟 게임 챗봇에 MCP 활용 예시

• ✅ Riot API로 실시간 챔피언 통계 조회
• ✅ 유저 게임 전적 API 연동
• ✅ 티어별 승률, 픽률, 밴률 등 실시간 데이터
• ✅ Discord 알림 자동 발송 ("새 패치 노트가 올라왔습니다!")
• ✅ 즐겨찾기한 챔피언 자동 모니터링

🚀 MCP가 필요한 경우

사용자가 "해주기를 원하는" 상황 🛠️:

• ✅ 실시간 게임 통계 조회 (승률, 픽률, 밴률)
• ✅ 유저 전적 검색
• ✅ 챔피언 통계 그래프 생성
• ✅ 디스코드/텔레그램 알림 발송
• ✅ 즐겨찾기 챔피언 모니터링
• ✅ 외부 서비스 연동 (캘린더, 메일, 메신저)

게임 챗봇 예시 질문들 💬:

• "야스오 현재 승률 알려줘"
• "내 롤 전적 보여줘"
• "야스오 픽률 추이 그래프 그려줘"
• "새 패치 나오면 알림 보내줘"

⚡ RAG vs MCP: 무엇이 다른가?

🔍 핵심 차이점

구분	RAG	MCP
역할	정보 제공자	도구 사용자
비유	도서관 사서	만능 비서
주요 기능	문서 검색 → 답변 생성	도구 호출 → 작업 실행
데이터 특성	정적 문서, 과거 데이터	실시간 데이터, 동적 정보
결과물	텍스트 답변	실제 액션 수행
업데이트	문서 DB 업데이트 필요	API가 자동으로 최신 제공
사용 목적	"알려주기"	"해주기"

💡 쉽게 구분하는 방법

"무엇을 물어보는가?" 로 판단하세요 🤔

📚 과거 정보, 문서 내용, 지식 → RAG

• "14.2 패치에서 야스오 변경사항은?"
• "지난 시즌 챔피언 메타 변화 정리해줘"
• "이 아이템 패시브 효과가 뭐야?"

🔧 지금 상황, 실행할 작업, 외부 시스템 → MCP

• "야스오 현재 승률은?"
• "내 게임 전적 보여줘"
• "새 패치 나오면 디스코드로 알려줘"

🎮 게임 챗봇 예시로 보는 차이

📝 RAG 질문들

• "S13 시즌 야스오 패치 히스토리 알려줘" → 과거 패치 노트 검색
• "칼바람에서 야스오 버프 받은 적 있어?" → 칼바람 패치 문서 검색
• "야스오 스킬 설명해줘" → 챔피언 정보 문서 검색

🔧 MCP 질문들

• "지금 랭크 1위 야스오 유저는?" → 실시간 랭킹 API 호출
• "야스오 픽률 추이 그래프 그려줘" → 통계 API + 차트 생성
• "야스오 스킨 세일하면 알림 보내줘" → 스토어 API 모니터링 + 알림 설정

🤝 RAG + MCP 함께 사용

대부분의 실무에서는 두 기술을 조합합니다 💪

예시: "지난 패치에서 버프받은 챔피언 중 현재 승률 상위 5개 알려줘"

1. RAG: 지난 패치 노트 검색 → 버프받은 챔피언 목록 추출

2. LLM: 버프 받은 챔피언 파악 (야스오, 진, 케이틀린, 럭스, 트페)

3. MCP: Riot API로 각 챔피언의 현재 승률 조회

4. LLM: 데이터 정렬 및 분석

5. 응답:

   "14.2 패치에서 버프받은 챔피언 중 현재 승률 TOP 5:
   
   1. 진 (54.2%) - Q 대미지 증가 효과가 크네요
   2. 야스오 (52.3%) - 쿨다운 감소로 강력해짐
   3. 케이틀린 (51.8%) - 사거리 버프 체감 큼
   4. 트페 (51.2%) - W 골드 증가로 안정적
   5. 럭스 (50.9%) - E 쿨다운 감소
   
   버프 효과가 가장 잘 나타난 챔피언은 진입니다!"
   

---

🤖 AI 에이전트: RAG + MCP의 결합

💡 AI 에이전트란?

AI 에이전트(AI Agent) 는 단순히 대화만 하는 것이 아니라, 사용자를 대신해서 생각하고 판단하고 행동하는 지능형 비서입니다.

LLM + RAG + MCP + 기타 도구들을 조합하여 만듭니다.

⭐ AI 에이전트의 특징

1. 자율성 🤖: 사용자가 일일이 지시하지 않아도 스스로 판단
2. 목표 지향 🎯: 최종 목표를 달성하기 위해 여러 단계 수행
3. 도구 활용 🔧: 필요한 도구를 선택해서 사용
4. 학습 및 적응 📈: 피드백을 받아 점점 더 나아짐

🚀 왜 요즘 AI 에이전트가 주목받나?

과거에는 LLM이 "대화만" 잘했습니다.

이제는 RAG와 MCP 같은 기술로 LLM이 "정보를 찾고" + "실제 일을 처리" 할 수 있게 되었습니다.

즉, 챗봇에서 진짜 비서로 진화한 것입니다.

🏗️ AI 에이전트 구성 요소

┌─────────────────────────────────────────┐
│          AI 에이전트 (Agent)            │
├─────────────────────────────────────────┤
│  LLM (두뇌)                             │
│  - 사용자 의도 이해                     │
│  - 작업 계획 수립                       │
│  - 응답 생성                            │
├─────────────────────────────────────────┤
│  RAG (지식)                             │
│  - 회사 문서 검색                       │
│  - 매뉴얼 참조                          │
│  - 과거 데이터 조회                     │
├─────────────────────────────────────────┤
│  MCP (도구)                             │
│  - 캘린더 연동                          │
│  - 이메일 발송                          │
│  - API 호출                             │
│  - 데이터베이스 조작                    │
├─────────────────────────────────────────┤
│  메모리                                 │
│  - 대화 기록                            │
│  - 사용자 선호도                        │
│  - 작업 이력                            │
└─────────────────────────────────────────┘

🎮 실제 사용 예시: 게임 패치 노트 챗봇

사용자: "야스오 이번 패치에서 어떻게 바뀌었는지 알려주고, 현재 티어도 보여줘. 그리고 야스오 관련 새 소식 나오면 디스코드로 알려줘"

⚙️ AI 에이전트 작동 과정:

1. 🧠 LLM이 작업 분해

   • 작업1: 패치 노트에서 야스오 변경사항 찾기
   • 작업2: 현재 티어/통계 조회
   • 작업3: 디스코드 알림 설정

2. 📚 RAG로 패치 노트 검색

   • 패치 노트 DB에서 "최신 패치 + 야스오" 검색
   • "14.3 패치: Q 쿨다운 4초→3.5초, E 대미지 증가" 발견
   • 이전 패치와 비교해서 버프/너프 판단

3. 🔧 MCP로 실시간 통계 조회

   • Riot API 호출: 야스오 현재 승률 52.3%
   • 티어별 픽률/밴률 데이터 수집
   • 최근 1주일 승률 추이 조회

4. 🔔 MCP로 알림 설정

   • Discord Webhook 설정
   • 패치 노트 RSS 모니터링 등록
   • "야스오" 키워드 감지 시 알림 트리거 설정

5. 📊 사용자에게 종합 보고

   "14.3 패치에서 야스오가 버프되었습니다!
   
   📝 변경사항:
   - Q 쿨다운: 4초 → 3.5초
   - E 대미지: +10 (전 레벨)
   
   📊 현재 통계 (골드+):
   - 승률: 52.3% (▲2.1%)
   - 픽률: 8.7% (중상위권)
   - 밴률: 12.4%
   
   종합 평가: 강력한 버프로 S티어 진입 예상
   
   ✅ 야스오 관련 소식을 디스코드로 알려드리도록 설정했습니다!
   

📖 실전 가이드 및 핵심 정리

🎯 프로젝트에 적용하기

✅ 프로젝트 요구사항 체크리스트

우리 서비스에 필요한 기능을 체크해보세요:

📚 RAG 기능

• 사내 문서 검색이 필요한가?
• 과거 데이터 조회가 필요한가?
• 전문 지식 제공이 필요한가?
• FAQ 자동 응답이 필요한가?

🔧 MCP 기능

• 실시간 외부 데이터가 필요한가?
• 다른 서비스와 연동이 필요한가?
• 사용자 대신 작업을 실행해야 하는가?
• 여러 도구를 조합해야 하는가?

🚀 단계별 구축 전략

1️⃣ 기본 LLM 챗봇

• 간단한 대화형 인터페이스
• 일반적인 질문 답변

2️⃣ RAG 추가

• 회사 문서, 매뉴얼 연동
• 정확한 정보 제공

3️⃣ MCP 추가

• 자주 사용하는 도구 1-2개 연동
• 간단한 자동화

4️⃣ AI 에이전트

• RAG + MCP 통합
• 복잡한 작업 자동 처리
• 멀티스텝 워크플로우

---

🤔 언제 무엇을 사용할까?

📚 RAG를 사용해야 할 때

사용자가 "알고 싶어하는" 상황 💭:

게임 챗봇 예시 🎮

• ✅ 패치 노트 내용 검색
• ✅ 챔피언 스킬 정보, 아이템 효과 조회
• ✅ 과거 패치 히스토리 비교
• ✅ 메타 변화 분석 문서

질문 예시 💬

• "14.3 패치에서 야스오 변경사항은?"
• "지난 5개 패치에서 원딜 버프 내역 정리해줘"
• "도란 검 패시브 효과가 뭐였지?"

🔧 MCP를 사용해야 할 때

사용자가 "해주기를 원하는" 상황 🛠️:

게임 챗봇 예시

• ✅ 실시간 게임 통계 조회 (승률, 픽률, 밴률)
• ✅ 유저 전적 검색
• ✅ 챔피언 통계 그래프 생성
• ✅ 디스코드/텔레그램 알림 발송
• ✅ 즐겨찾기 챔피언 모니터링

질문 예시

• "야스오 현재 승률 알려줘"
• "내 롤 전적 보여줘"
• "야스오 픽률 추이 그래프 그려줘"
• "새 패치 나오면 알림 보내줘"

🤝 RAG + MCP를 함께 사용할 때

복합적인 요청이 들어올 때 ⚡:

예시: "지난 패치에서 버프받은 챔피언 중 현재 승률 상위 5개 알려줘"

1. RAG: 지난 패치 노트 검색 → 버프받은 챔피언 목록
2. MCP: API로 각 챔피언의 현재 승률 조회
3. LLM: 데이터 종합 및 순위 분석

---

📝 핵심 요약

💡 한 문장 정리

• LLM 🧠: 대화할 수 있는 똑똑한 AI
• RAG 📚: LLM에게 참고 자료를 주는 기술
• MCP 🔧: LLM에게 도구를 쥐어주는 기술
• AI 에이전트 🤖: RAG + MCP로 진짜 일을 처리하는 AI 비서

🎯 기억해야 할 핵심

1. LLM은 기본적으로 한계가 있다 ⚠️

• 학습 데이터 이후 정보를 모름
• 회사 내부 정보 접근 불가
• 외부 시스템 제어 불가

2. RAG는 "아는 것"을 확장한다 📚

• 문서 검색으로 지식 범위 확대
• 정확한 정보 제공
• 출처 명시 가능

3. MCP는 "할 수 있는 것"을 확장한다 🔧

• 외부 도구 사용
• 실시간 데이터 접근
• 실제 작업 실행

4. AI 에이전트는 이 모든 것의 결합이다 🤖

• 생각하고 (LLM)
• 찾아보고 (RAG)
• 실행하는 (MCP)
• 진짜 비서

---

🗺️ 빠른 의사결정 플로우차트

사용자 요청
    ↓
질문이 "어떤 정보를 알려달라"는 것인가?
    ↓
   예 → 그 정보가 문서에 있는가?
        ↓
       예 → RAG 사용
        ↓
       아니오 → 실시간 데이터인가?
              ↓
             예 → MCP 사용
              ↓
             아니오 → 일반 LLM으로 답변
    ↓
   아니오 → 어떤 "작업을 실행"해달라는 것인가?
          ↓
         예 → MCP 사용
          ↓
         아니오 → 일반 LLM으로 답변

---

💼 실무 팁

🌱 시작은 작게

1. 먼저 기본 LLM 챗봇 만들기
2. 가장 많이 묻는 질문 파악
3. 문서 검색이 필요하면 RAG 추가
4. 외부 도구가 필요하면 MCP 추가

📈 점진적으로 확장

• 한 번에 모든 기능을 구현하려 하지 말기
• 사용자 피드백을 받으며 개선
• 가장 효과적인 기능부터 우선순위

📊 측정 가능하게

• 정확도: 답변이 얼마나 정확한가?
• 응답 시간: 사용자가 기다릴 수 있는 시간인가?
• 사용률: 실제로 유저들이 사용하는가?
• 만족도: 유저들이 만족하는가?

---

🎉 마치며

LLM, RAG, MCP는 각각의 역할이 명확합니다:

• LLM 🧠은 두뇌
• RAG 📚는 도서관
• MCP 🔧는 도구함

이 세 가지를 잘 조합하면, 단순한 챗봇이 아닌 진짜 도움이 되는 AI 비서를 만들 수 있습니다.

우리의 게임 패치 노트 챗봇 프로젝트도 이런 원리로 동작합니다. 유저들이 패치 정보를 쉽게 찾고(RAG 📚), 실시간 통계를 확인하고(MCP 🔧), 자연스럽게 대화하는(LLM 🧠) 경험을 제공하는 것이 목표입니다.

시작이 반입니다. 하나씩 차근차근 구현해보세요! 🚀✨