728x90
반응형

상담사 2

[Day 12] LLM & RAG 실전 챌린지 - Text-to-SQL로 구현하는 상담사 에이전트

[ Text-to-SQL ]Text-to-SQL은 사용자의 자연어 질문을 구조화된 SQL 쿼리로 자동 변환하는 기술데이터베이스에 대한 전문 지식이 없는 사용자도 복잡한 쿼리 없이 원하는 정보를 쉽게 얻을 수 있음​​9.1 개발 환경 구축하기​9.2 에이전트 개발을 위한 환경 설정​9.3 병원 데이터베이스 설계하기​9.4 Text-to-SQL 에이전트 구현하기​9.5 멀티턴 대화 처리 기법Text-to-SQL 시스템의 핵심 기능 중 하나는 사용자와의 자연스러운 대화 흐름을 유지하는 능력임​[ 멀티턴 대화 처리하기 ]1) build_prompt 함수를 호출하여 전체 대화 기록과 새 질문을 하나의 문자열로 만듬2) 이 문자열을 에이전트에게 전달하여 응답 생성을 요청함3) 에이전트가 처리하는 동안, 함수 호출 ..

프로그래밍/LLM 2025.09.08

[Day11] 한 권으로 LLM 온라인 스터디 1기 - 효율적인 파라미터 튜닝 (LoRA 1)

4.1 LoRA 이론 및 실습 4.1.1 LoRA 개념사전 학습된 대규모 모델(Pre-Trained Model)은 이미 방대한 데이터로 학습됐지만, 새로운 데이터를 처리하거나 특정 작업에 맞추려면 추가적인 파인 튜닝이 필요함새로운 데이터를 반영하려고 전체 모델을 수정하는 것은 비효율적LoRA는 사전 학습된 모델의 구조를 그대로 유지하면서 필요한 만큼만 파라미터를 효율적으로 수정하는 방법  4.1.2 런팟 환경 설정H100PCIe x1Pytorch 2.1Container Disk 200GBVolume Disk 200GB  4.1.3 Gemma-2-9B-it 모델 준비https://huggingface.co/google/gemma-2-9b-it google/gemma-2-9b-it · Hugging Face..

프로그래밍/LLM 2025.01.26
728x90
반응형