728x90
반응형

Rag 6

LLM & RAG 실전 챌린지 회고

이번 스터디를 통해 LLM과 RAG의 구조와 활용법을 직접 실습하며 감을 잡을 수 있었습니다. 단순히 이론에 머무르지 않고, 데이터 분할과 검색 전략을 적용하고 MCP까지 활용해 날씨 에이전트를 구현하며 실제 서비스로 확장될 수 있는 가능성을 확인했습니다. 또한 교재의 내용을 바탕으로 아이디어를 접목한다면, 단순 학습을 넘어 새로운 서비스를 기획하고 개발할 수 있겠다는 가능성도 얻을 수 있었습니다. 전체 과정을 기록하면서 시행착오와 배움이 정리되었고, 이는 앞으로 도메인 특화 RAG 시스템을 개발하는 데 중요한 밑거름이 될 것입니다. 👉 한마디로 요약하자면, LLM과 RAG, 그리고 MCP까지 경험하며 실전 감각과 새로운 서비스 아이디어를 함께 얻은 뜻깊은 여정이었습니다.

프로그래밍/LLM 2025.09.08

[Day 11] LLM & RAG 실전 챌린지 - 펑션 콜링 에이전트

[ 펑션 콜링 작업 프로새스 ]​1) 함수 정의작업하고자 하는 작업을 함수 형태로 작성 (특종 작업 또는 API 호출)​2) 도구 등록정의한 함수들을 도구ㅠ(tools)로 등록하여 LLM이 필요할 때 사용할 수 있도록 설정LLM이 사용자의 질문이나 명령에 따라 적절한 시점에 호출할 수 있도록 준비​3) 함수 호출 실행LLM이 함수 호출이 필요하다고 판단하면, Function Calling Agent가 해당 함수를 식별하고 필요한 인자와 함께 호출​4) 결과 처리 및 응답 생성함수 실행 후 반환된 결과는 LLM의 응답에 포함되어 자연스러운 문장 형태로 사용자에게 제공​​​8.1 개발 환경 구축하기​8.2 펑션 콜링 작동 방식 이해하기​8.3 외부 API를 활용한 펑션 콜링펑션 콜링은 외부 API와 연동하여..

프로그래밍/LLM 2025.09.08

[Day 10] LLM & RAG 실전 챌린지 - 고급 RAG

7.1 개발 환경 구축하기​7.2 리랭킹LLM 기반 리랭킹은 대규모 언어 모델(LLM)을 활용해 초기 검색 결과를 다시 평가하고, 사용자의 질문과 가장 관련성이 높은 순서로 결과를 정렬하는 방법LLM 은 초기 검색 결과를 전체적으로 검토함LLM이 새롭게 계산한 점수를 기준으로, 기존 임베딩 모델의 겸색 결과를 다시 정렬함​​[ 기본 RAG ]벡터 검색으로 상위 4개 문서를 찾아옴LLM 호출 1회 : 검색된 4개 문서 전체를 바탕으로 답변을 생성총 LLM 호출 : 1회​[ 리랭킹 적용 RAG ]벡터 검색으로 상위 4개 문서를 찾아옴LLM 호출 4회 : 각 문서와 질문의 관련성을 1-10점 사이로 평가함LLM 호출 1회 : 관련성 점수가 높은 상위 2개 문서를 이용해 답변을 생성총 LLM 호출 : 5회​​7..

카테고리 없음 2025.09.08

[Day 8] LLM & RAG 실전 챌린지 - 에이전트 RAG 개발 환경 구축, 데이터 준비

* ReAcT 방법론 : 대규모 언어모델이 추론(Reasoning)과 행동(Acting)을 결합하여 문제를 해결하는 방법론​​[ 실제 동작방식 ]​1) Thought - 첫 번째 생각2) Action - 도구 사용3) Observation - 도구 사용 결과4) Thought - 두 번째 생각5) Action - 도구 사용6) Observation - 도구 사용 결과7) Thought - 세 번째 생각.........​​6.1 개발환경 구축​6.2 데이터 준비

프로그래밍/LLM 2025.09.08

[Day 7] LLM & RAG 실전 챌린지 - 다중모달 RAG 실습

5.1 개발 환경 구축하기​5.2 데이터 준비하기​5.3 OpenAI API로 다중모달 벡터 인덱싱하기​5.4 쿼드런트를 활용한 다중모달 RAG 구축하기​쿼드런트 설치 및 클라이언트 설정텍스트 및 이미지 데이터를 위한 벡터 스토어 생성라마인덱스를 사용해 다중모달 벡터 인덱스 구축질의(Query)를 통해 검색 결과 확인​5.5 질의응답 기반 RAG 시스템 구축​5.6 이미지 기반 RAG 시스템 구축​검색할 데이터를 수집내려받은 이미지를 벡터화하여 데이터베이스에 저장입력 이미지와 유사한 이미지를 검색하고 결과를 비교

프로그래밍/LLM 2025.09.07

[Day 0] LLM & RAG 실전 챌린지 - 준비

1. 책준비https://wikibook.co.kr/llm-rag/ LLM과 RAG로 구현하는 AI 애플리케이션: 에이전트, 펑션콜링, Text-to-SQL, MCP까지 라마인덱스 실무 가검색 증강 생성(RAG), 펑션 콜링, 에이전트, 벡터 스토어, 그리고 최신 프레임워크 MCP까지! 이 책은 빠르게 진화하는 AI 기술 트렌드를 단순히 따라가는 데 그치지 않고 실제 구현과 통합에 필요한wikibook.co.kr 2. 네이버 위키북스 스터디 카페https://cafe.naver.com/wikibookstudy 위키, 북스터디 :: 위키북스 스터디 : 네이버 카페[IT/개발스터디] 파이썬/C언어/자바/웹,앱개발/스터디/도커/머신러닝/독학cafe.naver.com 3. 위키북스 깃허브 - llama-..

프로그래밍/LLM 2025.09.07
728x90
반응형