8월부터 CloudNeta 팀의 Hands-On LLM Serving and Optimization Study에 참여하게 되어 챕터별로 스터디한 내용을 정리해보겠습니다. 7주간 매주 Oreilly의 Hands-On LLM Serving and Optimization 책 내용을 기반으로 학습한 내용을 정리하는 형태로 글을 작성합니다. 첫 번째 주제로 LLM 모델의 서빙과 최적화 개념에 대해서 공부한 내용을 작성해봅니다. 모델에 대해서모델은 하나의 파일이 아니라 다음과 같은 계층을 가집니다.구성 요소내용모델 데이터weight, bias, configuration + 실행 메타데이터(배치 크기, 입출력 텐서, 임베딩 등)모델 아키텍처레이어 구조, 연결 방식, 연산 정의. 입력이 어떤 계산 경로로 출력이 ..