31weeks

3.2 Gemma와 Llama3 모델 구조 분석 3.2.1 Gemma 모델 구조 분석매개변수(7B, 13B, 34B, 72B 등)의 수를 늘려서 성능을 높이는데 집중했던 재부분의 모델들과는 반대로 모델의 크기를 크게 줄여서 고성능 컴퓨팅 자원이 부족한 환경에서도 언어모델을 황용할 수 있게 하려는 혁신적인 시도a. input_layernorm, post_attention_layernorm 추가 : 그레디언트를 적절한 크기로 유지 → 안정적 학습, 더 좋은 성능b. RoPE(Rotary Position Embedding) 도입 : 각 토큰의 위치를 상대적인 각도로 표시c. 활성화 함수 : ReLU의 한계를 극복하기 위해 GELU와 GLU를 결합한 GeGLU라는 새로운 활성화 함수를 사용  3.2.2 Gemm..

3.1 전체 파인튜닝 데이터 준비3.1.1 전체 파인튜닝의 원리와 종류파인튜닝이란?- 이미 학습되어 공개된 언어 모델(Pre-trained Language Model,)을 특정 작업에 맞게 추가로 학습하는 것- 성능을 높이고자 하는분야나 풀고자 하는 문제의 데이터로 추가 학습   → 모델이 해당 분야에서 더 정확하고 신뢰할 수 있는 응답을 생성할 수 있게 됨파인튜닝을 하는 이유- 처음부터 모델을 개발하는 것 보다 훨씬 더 경제적이고 편리함- 특정분야의 데이터는 매우 적음 → 과적합, 자연스러운 언어생성 능력 부족파인튜닝의 종류- PEFT(Parameter-Efficient Fine-Tuning, 매개변수 효율적 파인튜닝)  a. 어댑터 튜닝(Adapter Tuning) : 기존의 거대한 언어 모델에 작은..

2.6 멀티헤드 어텐션과 피드포워드 2.6.1 멀티헤드 어텐션 만들기어텐션 메커니즘 : 모델이 입력 데이터의 중요한 부분에 집중할 수 있게 하는 것멀티헤드 어텐션 : 여러개의 어텐션 메커니즘을 병렬로 사용해 다양한 관점에서 정보를 동시에 처리  2.6.2 피드포워드 만들기각 어텐션 블록 뒤에 피드포워드 네트워크를 배치각 시퀀스 위치마다 독립적으로 적용되어 모델의 표현력을 높임어텐션 메커니즘으로부터 얻은 표현을 더욱 풍부하게 만듬→ 모델이 더 복잡한 데이터 패턴을 학습할 수 있게 돕는 과정 2.7 Blocks 만들기복잡한 신경망 모델에서 블록은 모델의 설계와 구현에 중요한 구조적 단위모델 내 다양한 계층과 구성 요소를 하나로 묶어 모듈화, 개사용성, 확장성을 크게 향상시킴각  블록 내에서 주로 어텐션 메커..

2.3 언어 모델 만들기2.3.1 라이브러리 설명torch : 텐서 연산과 자동 미분기능 등을 제공해 딥러닝 모델 구현에 필수적인 기능 제공torch.nn : 신경망 구축에 필요한 다양한 레이어와 매개변수 관리 기능 제공이를 통해 모델 아키텍처를 정의하고 매개변수를 초기화하며, 순전파(forward pass)를 구현할 수 있다 2.3.2 __init__ 함수__init__- 클래스 인스턴스가생성될 때 자동으로 호출되는 메서드- 신경망 모델에서는 모델 구조와 필요한 초기설정을 정의함super().__init__()- 부모 클래스의 __init__ 메서드를 호출 → nn.Module의 생성자 호출super()- 여러 클래스를 동시에 상속받을 때 생길 수 있는 복잡한 상황을 관리하기 위함num_embeddin..

1. NLP(Natural Language Processing)자연어 처리단순한 규칙으로 시작 → 복잡한 언어 모델로 발전 2. 이정표가 되는 논문 세편앨런 튜링https://courses.cs.umbc.edu/471/papers/turing.pdf - 기계는 생각할 수 있는가?- 사고의 개념에 대하서 철학적 논의보다 실용적인 접근을 선호했기 때문프랭크 로젠블랫https://www.ling.upenn.edu/courses/cogs501/Rosenblatt1958.pdf - 인공 신경망 모델은 퍼셉트론 개념을 실제 하드웨어로 구현한 최초의 기계- 현대 인공 신경망과 딥러닝의 기초가 되어 오늘날 사용하는 많은 인공지능의 기반이 됨- 연결주의 접근법, 통계적 접근법- 선형적 분리(시간적 패턴 인식 및 비선형적..

1. 책 준비https://wikibook.co.kr/llm-finetuning/ 한 권으로 끝내는 실전 LLM 파인튜닝: GPT 작동 원리부터 Gemma 2 / Llama 3 파인튜닝, vLLM 서빙까지실무 현장에서 꼭 필요한 파인튜닝, PEFT, vLLM 서빙 기술을 직접 실습하면서 배워 보자! AI 기술의 최전선에서 배우는 LLM 파인튜닝의 모든 것! 이론적 토대부터 실전 활용까지 단계별로 마스터할wikibook.co.kr    2. 네이버 위키북스 스터디 카페https://cafe.naver.com/wikibookstudy 위키, 북스터디 :: 위키북스 스터디 : 네이버 카페[IT/개발스터디] 파이썬/C언어/자바/웹,앱개발/스터디/도커/머신러닝/독학cafe.naver.com    3. 위키붓그 깃..

파이캐럿 설치와 주피터 노트북 커널 연결이 완료되었으면 파이캐럿을 이욯해서 아래와 같이 최적의 모델을 선택하고 예측을 할 수 있다. from pycaret.regression import * reg = setup(data=train_x, target=train_y, session_id=123) data : 훈련 데이터(특성) target : 예측하려는 대상 변수(타겟 변수) session_id : 재현성을 위해 무작위 시드를 설정하는 선택적 매개변수 # 최적의 모델 선택 (상위 3개 모델 선택) best_models = compare_models(n_select=3) n_select=3 : 상위 3개 모델 선택 # Best Model 저장 import pickle with open('best_1-lgbm..

PyCaret은 기계 학습 워크플로를 자동화하는 Python의 오픈 소스 로우 코드 기계 학습 라이브러리이지만, 설치할때 다른 라이브러리와 충돌이 있을 수 있으므로 타 라이브러리 보다 제일 먼저 설치해 주어야 한다. 우선 가상환경을 생성하고(하단 링크 참고) 파이캐럿을 설치하는데, 아나콘다를 이용할 경우, 아래와 같이 conda 명령어를 이용해서 설치하면 작동 안하는 경우가 있을 수 있다. conda install -c conda-forge pycaret 따라서 pip install 명령어를 이용해서 아래와 같이 설치해주면 된다. pip install pycaret pip install 명령어를 사용하는 방법은 아래의 파이캐럿 공식홈페이지 매뉴얼상에서 확인할 수 있으며, 매뉴얼상에 conda로 가상환경을..

1. 가상환경 생성 conda create -n test01 python=3.10.9 : 파이썬 버전 3.10.9로 가상환경 'test01'생성 2. 가상환경 들어가기 conda activate test01 3. 가상환경 들어가서 주피터 설치 pip install jupyter notebook 4. 커널 연결 python -m ipykernel install --user --name 가상환경이름 --display-name "표시할 커널이름" ex) python -m ipykernel install --user --name test01 --display-name "test01" -> 가상환경 'test01'을 주피터 노트북 커널에 연결 5. 커널 연결 해제 jupyter kernelspec uninstal..

개인화된 학습 경험 GPT-4는 학습자의 능력, 지식 수준, 선호 스타일 등을 고려하여 개인화된 학습 경험을 제공합니다. 이를 통해 학습자는 자신에게 맞는 속도와 난이도로 학습할 수 있으며, 더 효과적으로 지식을 습득할 수 있습니다. 스마트 튜터 GPT-4는 실시간으로 학습자의 질문에 답변하여 스마트 튜터로 활용될 수 있습니다. 이를 통해 학습자는 필요한 정보와 도움을 즉시 받을 수 있으며, 학습 과정에서 발생하는 어려움을 빠르게 해결할 수 있습니다. 언어 학습 도우미 GPT-4는 다양한 언어를 지원하므로 언어 학습 도우미로 활용할 수 있습니다. 학습자는 GPT-4와 대화를 나누며 새로운 언어를 연습할 수 있고, 발음, 문법, 어휘 등 다양한 언어 구성 요소를 향상시킬 수 있습니다. 창의적 사고 개발 G..