Gemma 4 12B 로컬 실행 7단계 — LiteRT-LM 설치부터 API 서버 구동까지
Gemma 4 12B를 로컬 환경에서 실행하기 위한 하드웨어 요구사항, 양자화 모델 선택 기준, LiteRT-LM CLI를 이용한 OpenAI 호환 API 서버 구동 방법을 단계별로 다룬다. 16GB RAM 노트북 기준 실행 가능 여부와 프레임워크 비교 포함.
Gemma 4 12B를 로컬 환경에서 실행하기 위한 하드웨어 요구사항, 양자화 모델 선택 기준, LiteRT-LM CLI를 이용한 OpenAI 호환 API 서버 구동 방법을 단계별로 다룬다. 16GB RAM 노트북 기준 실행 가능 여부와 프레임워크 비교 포함.