728x90
반응형

모델 4

[Day6] 한 권으로 LLM 온라인 스터디 1기 - GPU 병렬화 기법

3.3 GPU 병렬화 기법3.3.1 데이터 병렬 처리(Data Parallelism, DP)전체 데이터를 작은 덩어리 여러 개로 나눠 각각을 서로 다른 GPU에서 동시에 처리학습시간 크게 단축, 메모리 제약 없이 대규모 데이터셋을 효과적으로 다룰 수 있음모든 GPU의 VRAM을 균등하게 활용하지 못함 → 모델 병렬화 기법이 등장 3.3.2 모델 병렬화(Model Parallelism, MP)대규모 신경망 모델을 여러 GPU에서 나누어 처리하는 방식모델을 수직으로 분할해서 처리(수직 모델 병렬화)단일 GPU로는 처리하기 어려운 대규모 모델을 효율적으로 학습하고 실행특정 시점에 대부분의 GPU가 놀고 있을 수 있음기기 간 데이터 복사로 인한 부담이 전체적인 학습속도를 저하시킬 수 있음→ 파이프라인 병렬화 등..

프로그래밍/LLM 2025.01.25

[가스기술사 2021] 123회 2교시 - 5. 화학공장의 정량적 위험성평가(CPQRA)에 대하여 설명하시오.

문제 5. 화학공장의 정량적 위험성평가(CPQRA)에 대하여 설명하시오.가. 정량적 위험성평가(CPQRA) 수행절차나. 사고영향분석(Consequence Analysis) 모델의 종류다. 사고시나리오(최악, 대안)의 정의   1. 정량적 위험성평가(CPQRA) 수행절차1-1. 정량적 위험성평가(CPQRA) 의 정의불확실성과 피해를 조합한 위험을 정량적으로 분석하기 위해 사고 가능성과 손실을 경제적 손실 또는 인명 피해의 척도로 수치화하는 방법1-2. 정량적 위험성평가(CPQRA) 수행절차시스템 설명- PFD, P&ID, 배치도면, 운전 및 유지보수 등의 자료를바탕으로 위험분석에 필요한 공정/플랜트 정보 수집위험요소(Hazard) 확인- 경험, 공학적 분석, 체크리스트, HAZOP, What-if, FME..

비트코인 파워 로우 이론 버릴 때가 되었나?

기사내용 :  최근 Cointelegraph 기사에 따르면, 비트코인 시장 분석에서 오랫동안 사용되어 온 파워 로우 이론이 이제 더 이상 정확하지 않다고 주장하는 목소리가 커지고 있습니다. 파워 로우 이론은 비트코인의 가격 움직임을 예측하기 위해 널리 사용되어 왔지만, 최근의 시장 변동성을 설명하는 데 한계를 보이고 있습니다. 경제학자들은 새로운 예측 모델의 필요성을 강조하며, 기존 이론에 의한 투자 전략이 실패할 가능성을 경고하고 있습니다. 시장에 미치는 영향 :  파워 로우 이론이 더 이상 유효하지 않다는 주장은 비트코인 시장에 큰 영향을 미칠 수 있습니다. 투자자들이 이론에 의존해온 투자 전략을 재검토하게 만들고, 예측 불가능성이 높아져 시장의 불안정성을 증대시킬 수 있습니다. 과거에도 특정 예측 ..

코인 뉴스 2024.08.30

아나콘다 - 파이캐럿으로 최적 모델 선택

파이캐럿 설치와 주피터 노트북 커널 연결이 완료되었으면 파이캐럿을 이욯해서 아래와 같이 최적의 모델을 선택하고 예측을 할 수 있다. from pycaret.regression import * reg = setup(data=train_x, target=train_y, session_id=123) data : 훈련 데이터(특성) target : 예측하려는 대상 변수(타겟 변수) session_id : 재현성을 위해 무작위 시드를 설정하는 선택적 매개변수 # 최적의 모델 선택 (상위 3개 모델 선택) best_models = compare_models(n_select=3) n_select=3 : 상위 3개 모델 선택 # Best Model 저장 import pickle with open('best_1-lgbm..

728x90
반응형