3.4 단일 GPU를 활용한 Gemma-2B-it 파인튜닝
3.4.1 런팟 환경설정
RunPod - The Cloud Built for AI
Develop, train, and scale AI models in one cloud. Spin up on-demand GPUs with GPU Cloud, scale ML inference with Serverless.
www.runpod.io
- H100PCIe x 1
- Pytorch 2.1
- Container Disk 200GB
- Volume Disk 200GB
git clone https://github.com/wikibook/llm-finetuning
cd llm-finetuning/chapter3/3.4
pip install -r requirements.txt
3.4.2 Gemma 모델 준비
https://huggingface.co/google/gemma-2b-it
google/gemma-2b-it · Hugging Face
This repository is publicly accessible, but you have to accept the conditions to access its files and content. To access Gemma on Hugging Face, you’re required to review and agree to Google’s usage license. To do this, please ensure you’re logged-in
huggingface.co
3.4.3 데이터셋 준비
https://huggingface.co/datasets/jaehy12/news3
jaehy12/news3 · Datasets at Hugging Face
공예메이커스페이스 조성 사업의 일환으로 조성된 한국도자재단 공예창작지원센터(대표 최연, 이하 지원센터)가 2020년도 본격적으로 공예 예비 창업자 및 공예가를 지원하는 프로그램 운영에
huggingface.co
3.4.4 Gemma 모델의 기능 확인하기
- 키워드 추출 및 요약 기능 확인
'프로그래밍 > LLM' 카테고리의 다른 글
| [Day9] 한 권으로 LLM 온라인 스터디 1기 - 단일 GPU Gemma 파인튜닝 3 (0) | 2025.01.25 |
|---|---|
| [Day8] 한 권으로 LLM 온라인 스터디 1기 - 단일 GPU Gemma 파인튜닝 2 (0) | 2025.01.25 |
| [Day6] 한 권으로 LLM 온라인 스터디 1기 - GPU 병렬화 기법 (0) | 2025.01.25 |
| [Day5] 한 권으로 LLM 온라인 스터디 1기 - GPT, Gemma, Llama3 모델 특징 비교 (0) | 2025.01.25 |
| [Day4] 한 권으로 LLM 온라인 스터디 1기 - 파인튜닝 개념 (1) | 2025.01.25 |