31weeks

3.5 다중 GPU를 활용한 Llama3.1-8B-instruct 파인 튜닝 3.5.1 런팟 환경 설정H100XM x 41Pytorch 2.2.0Container Disk 400GBVolume Disk 400GBgit clone https://github.com/wikibook/llm-finetuningcd llm-finetuning/chapter3/3.5pip install -r requirements.txt  3.5.2 Llama 3.1 학습 파라미터 설정model_name : 사용할 모델 ID, 허깅페이스에 등록된 모델 이름dataset_path : 학습에 사용할 데이터셋이 위치한 경로max_seq_length : 모델이 처리할 수 있는 최대 시퀀스 길이 설정output_dir : 학습과정에서 생성..

검색사이트에서 'chat gpt'를 검색해서 'Introducing ChatGPT - OpenAI'를 클릭하거나 https://openai.com/blog/chatgpt을 입력하여 ChatGPT 공식 홈페이지로 이동 후, 'Try ChatGPT'를 클릭한다. Sign up 클릭해서 ChatGPT 계정을 생성하는데, 직접 이메일을 입력하는 방법과 구글 계정으로 가입을 하는 방법이 있다. 여기에서는 'Countinue with Goole'를 클릭해서 구글 이메일로 가입을 진행한다. 이메일을 입력하거나 구글계정을 연동한 후, 닉네임 정해야 하는데 Chat GPT에서는 아직 닉네임 변경기능을 지원하지 않으므로 한번 정하면 바꿀 수 없다는 점을 유의해서 정해야 한다. 닉네임 입력 후, 핸드폰번호 인증을 하면 Ch..