728x90
반응형

가속화 2

[Day15] 한 권으로 LLM 온라인 스터디 1기 - vLLM 서빙

5.1 페이지드 어텐션 원리페이지드 어텐션 시스템의 주요 구성 요소- Logical KV Cache Blocks : 모델이 처리하는 데이터의 논리적 구조- Block Table :  논리적 구조와 실제 물리적 메모리 위치를 연결하는 중개자 역할- Physical KV Cache Blocks : 실제 데이터가 저장되는 물리적 메모리 공간→ 이 세 요소가 함께 작동해 대규모 언어 모델의 메모리 사용을 최적화 하고, 효율적인 데이터 접근을 가능하게 함→ 컴퓨터의 가상 메모리 시스템과 유사하게 제한된 물리적 자원을 효과적으로 관리하고 활용할 수 있게 해줌   5.2 vLLM 사용 방법vLLM은 페이지드 어텐션 기술을 구현한 라이브러리로, 대규모 언어 모델을 효율적으로 메모리에 로드하고 빠른 텍스트 생성을 가능하..

프로그래밍/LLM 2025.01.26

중국 시장 붕괴로 가속화될 수 있는 2025년 비트코인 불런, 암호화폐 전문가의 의견

기사내용 :  암호화폐 시장 관측자들은 최근 중국 시장의 붕괴가 비트코인 불런(상승장)을 가속화할 수 있다고 주장하고 있습니다. 중국 경제의 불안정은 투자자들이 안전한 자산으로 자금을 이동시키려는 경향을 강화할 수 있으며, 이에 따라 비트코인에 대한 수요가 증가할 것으로 보입니다. 시장에 미치는 영향 :  과거에도 글로벌 경제 불안정이 암호화폐 시장에 긍정적인 영향을 미쳤던 사례가 있습니다. 2020년 경 코로나19 팬데믹 당시, 전 세계적인 경제 불확실성 속에서 비트코인 가격이 크게 상승한 바 있습니다. 이번에도 중국 시장의 혼란이 지속된다면, 투자자들이 비트코인을 대체 자산으로 더욱 선호하게 될 것이고 이는 비트코인의 가격 상승으로 이어질 가능성이 있습니다. 따라서 비트코인 및 전체 암호화폐 시장이 ..

코인 뉴스 2025.01.07
728x90
반응형