31weeks

LLM & RAG 실전 챌린지 회고

이번 스터디를 통해 LLM과 RAG의 구조와 활용법을 직접 실습하며 감을 잡을 수 있었습니다. 단순히 이론에 머무르지 않고, 데이터 분할과 검색 전략을 적용하고 MCP까지 활용해 날씨 에이전트를 구현하며 실제 서비스로 확장될 수 있는 가능성을 확인했습니다. 또한 교재의 내용을 바탕으로 아이디어를 접목한다면, 단순 학습을 넘어 새로운 서비스를 기획하고 개발할 수 있겠다는 가능성도 얻을 수 있었습니다. 전체 과정을 기록하면서 시행착오와 배움이 정리되었고, 이는 앞으로 도메인 특화 RAG 시스템을 개발하는 데 중요한 밑거름이 될 것입니다. 👉 한마디로 요약하자면, LLM과 RAG, 그리고 MCP까지 경험하며 실전 감각과 새로운 서비스 아이디어를 함께 얻은 뜻깊은 여정이었습니다.

[Day 14] LLM & RAG 실전 챌린지 - 날씨 에이전트 실습

10.5 날씨 에이전트 실습MCP를 활용하여, 사용자가 자연어로 입력한 질문에 따라 실시간으로 오늘과 내일의 날씨를 안내하는 날씨 에이전트 만들기단순한 기능을 구현하는데 그치지 않고, MCP 서버를 구축하고 외부 날씨 API를 MCP 도구로 등록한 뒤, 클라이언트가 LLM을 통해 자연어를 분석하여 필요한 도구를 선택하고 호출하는 전체 구조를 구성 https://openweathermap.org/ Current weather and forecast - OpenWeatherMapOpenWeather Weather forecasts, nowcasts and history in a fast and elegant wayopenweathermap.org

[Day 13] LLM & RAG 실전 챌린지 - MCP

10.1 MCP란MCP : 에이전트가 다양한 기능, 서비스, 시스템과 안전하고 일관되게 상호작용할 수 있도록 설계된 도구 호출 프로토콜​[ MCP 구성요소 ]툴(Tool) : 에이전트가 호출할 수 있는 기능 단위로, 이름, 설명, 입력 파라미터, 반환 값 등을 JSON 형식으로 정의MCP 클라이언트 : 모델 또는 애플리케이션 측에서 MCP 서버의 툴을 호출하는 인터페이스 역할을 수행MCP 서버 : 정의된 툴을 실제로 실행하고 결과를 반환하는 실행 주체로, 외부 API 또는 로컬 도구와 연결됨통신규약(JSON-RPC 2.0) : 모델과 MCP 서버간의 툴 호출 요청 및 응답을 주고받는데 사용되는 메세지 포맷​​10.2 Model Context Protocol 개발 환경 구축하기​10.3 MCP 서버다양한 ..

[Day 12] LLM & RAG 실전 챌린지 - Text-to-SQL로 구현하는 상담사 에이전트

[ Text-to-SQL ]Text-to-SQL은 사용자의 자연어 질문을 구조화된 SQL 쿼리로 자동 변환하는 기술데이터베이스에 대한 전문 지식이 없는 사용자도 복잡한 쿼리 없이 원하는 정보를 쉽게 얻을 수 있음​​9.1 개발 환경 구축하기​9.2 에이전트 개발을 위한 환경 설정​9.3 병원 데이터베이스 설계하기​9.4 Text-to-SQL 에이전트 구현하기​9.5 멀티턴 대화 처리 기법Text-to-SQL 시스템의 핵심 기능 중 하나는 사용자와의 자연스러운 대화 흐름을 유지하는 능력임​[ 멀티턴 대화 처리하기 ]1) build_prompt 함수를 호출하여 전체 대화 기록과 새 질문을 하나의 문자열로 만듬2) 이 문자열을 에이전트에게 전달하여 응답 생성을 요청함3) 에이전트가 처리하는 동안, 함수 호출 ..

[Day 11] LLM & RAG 실전 챌린지 - 펑션 콜링 에이전트

[ 펑션 콜링 작업 프로새스 ]​1) 함수 정의작업하고자 하는 작업을 함수 형태로 작성 (특종 작업 또는 API 호출)​2) 도구 등록정의한 함수들을 도구ㅠ(tools)로 등록하여 LLM이 필요할 때 사용할 수 있도록 설정LLM이 사용자의 질문이나 명령에 따라 적절한 시점에 호출할 수 있도록 준비​3) 함수 호출 실행LLM이 함수 호출이 필요하다고 판단하면, Function Calling Agent가 해당 함수를 식별하고 필요한 인자와 함께 호출​4) 결과 처리 및 응답 생성함수 실행 후 반환된 결과는 LLM의 응답에 포함되어 자연스러운 문장 형태로 사용자에게 제공​​​8.1 개발 환경 구축하기​8.2 펑션 콜링 작동 방식 이해하기​8.3 외부 API를 활용한 펑션 콜링펑션 콜링은 외부 API와 연동하여..

[Day 10] LLM & RAG 실전 챌린지 - 고급 RAG

7.1 개발 환경 구축하기​7.2 리랭킹LLM 기반 리랭킹은 대규모 언어 모델(LLM)을 활용해 초기 검색 결과를 다시 평가하고, 사용자의 질문과 가장 관련성이 높은 순서로 결과를 정렬하는 방법LLM 은 초기 검색 결과를 전체적으로 검토함LLM이 새롭게 계산한 점수를 기준으로, 기존 임베딩 모델의 겸색 결과를 다시 정렬함​​[ 기본 RAG ]벡터 검색으로 상위 4개 문서를 찾아옴LLM 호출 1회 : 검색된 4개 문서 전체를 바탕으로 답변을 생성총 LLM 호출 : 1회​[ 리랭킹 적용 RAG ]벡터 검색으로 상위 4개 문서를 찾아옴LLM 호출 4회 : 각 문서와 질문의 관련성을 1-10점 사이로 평가함LLM 호출 1회 : 관련성 점수가 높은 상위 2개 문서를 이용해 답변을 생성총 LLM 호출 : 5회​​7..

[Day 9] LLM & RAG 실전 챌린지 - 허깅페이스 임베딩, 에이전트 만들기

6.3 허깅페이스 임베딩한글 성능이 뛰어난 임베딩 모델인 'BAAI/bge-m3' 사용​​6.4 에이전트 만들기ReAct 에이전트는 Thought(생각), Action(도구 사용), Observation(관찰) 세가지 과정을 반복하여 문제를 해결한다.도구들을 GPT-4.1과 연결하여 스스로 생각하고, 도구를 선택하고 실행하는 ReAcT 에이전트​a. Thought (생각) : 사용자의 요청을 분석하고, 어떤 도구와 입력값을 사용할지 고민b. Action (도구 선택) : 사용할 도구 결정c. Action Input (도구 입력값) : 선택한 도구에 제공할 입력값을 결정d. Observation (도구 사용 결과) : 도구의 출력 결과를 확인-> 이 네가지 과정은 문제가 해결될 때까지 몇 번이고 반복될 수..

[Day 8] LLM & RAG 실전 챌린지 - 에이전트 RAG 개발 환경 구축, 데이터 준비

* ReAcT 방법론 : 대규모 언어모델이 추론(Reasoning)과 행동(Acting)을 결합하여 문제를 해결하는 방법론​​[ 실제 동작방식 ]​1) Thought - 첫 번째 생각2) Action - 도구 사용3) Observation - 도구 사용 결과4) Thought - 두 번째 생각5) Action - 도구 사용6) Observation - 도구 사용 결과7) Thought - 세 번째 생각.........​​6.1 개발환경 구축​6.2 데이터 준비