[CS] RAG, MCP, 제로샷- 원샷- 퓨샷 (IT용어 정리)

MCP (Model-Context- Protocol)

MCP : AI 모델이 시스템의 중심이 되는 개발 방식

• 모델 중심 (O) 구조 중심 (X)
• 모델 정확도 향상
  • → 피드백 루프 등 활용 각종 구조를 AI 모델의 성능 개선에 집중
• 모델 성능 모니터링
• 모델 실험, 운영 환경 간 격차 줄이기

 

RAG(Retrieval Augmented Generation, 검색 증강생성)

 

→ 검색된 결과로 생성형 AI 모델을 보완하여 답변을 생성함.

→ 생성된 답변에 대한 ‘근거’를 마련

• 먼저 검색을 통해 일차적인 결과를 불러온 뒤, 이 결과를 기반으로 LLM이 답변을 생성하게 하여 신뢰도 확보
• 외부 문서나 DB에서 정보를 먼저 찾아보고 이를 바탕으로 답변 생성

1. Retrieval (검색)
   • 질문을 받아 관련 문서를 벡터 기반으로 검색
   • 검색소스 : 웹사이트, 논문, 사내 문서, DB 등
2. Augmentation (정보 보강)
   • 검색된 문서를 질문과 함께 LLM에 전달
   • LLM은 검색 결과를 읽고 더 신뢰성 높은 응답 생성
3. Generation (생성)
   • LLM이 검색된 정보에 기반하여 응답 생성
   → 사실 기반 응답 유도

 

https://aws.amazon.com/ko/what-is/retrieval-augmented-generation/

RAG란? - 검색 증강 생성 AI 설명 - AWS

 

 

 

 

제로 샷 (zero-shot) , 원 샷(one-shot), 퓨 샷(few-shot)

→ 학습 및 추론 기법

→ 프롬프트를 활용한 추론 방식이며, 추가 학습 없이 모델이 기존 학습된 지식을 활용해 문제를 해결하도록 함.

→ 기대 형식 유도, 명확한 문맥 제공

 

제로샷

→ 사전 예시 없이 문제를 바로 푸는 방식 (일반적인 LLM방식)

→ 새로운 클래스에 대한 설명 정보를 입력으로 제공해야함.

 

원샷

→ 정답 예시를 하나 제공하고, 문제를 푸는 방식

→ 기대 정보의 예시를 보고 안정적으로 따라함

 

퓨샷

→ 정답 예시를 2~5개 정도 제공한 후 문제를 푸는 방식

→ 더 다양한 사례를 학습해 더 일반화된 응답 가능

제로샷에 의존하지 않고, 원샷/퓨샷 학습 방식을 병행하면,

모델이 정확도 높은 응답을 하게 되고, 할루시네이션 현상이 현저하게 줄어든다.

 

https://www.cio.com/article/3499815/%ED%95%98%EB%82%98%EB%A7%8C-%EC%95%8C%EB%A0%A4%EC%A4%98%EB%8F%84-%EC%97%B4%EC%9D%84-%EC%95%88%EB%8B%A4-%EC%83%9D%EC%84%B1-ai%EC%9D%98-%ED%95%99%EC%8A%B5-%EB%B0%A9%EC%8B%9D-%EC%A0%9C.html

‘하나만 알려줘도 열을 안다’ 생성 AI의 학습 방식, 제로샷·퓨샷 러닝

 

 

+

생각해볼만 한 것

1. AI 할루시네이션

2. 학습 데이터 편향 문제