가이드 모음

VRAM 숫자를 표와 계산기에 넣기 전에, 가정이 무엇인지 읽어 두는 글들입니다. 양산형 일반론이 아니라 로컬 AI 적재 문제에 맞춰 썼습니다.

• VRAM 계산 공식과 한계

  가중치×오버헤드 + KV. 적재 가능과 실용 속도의 경계.

• 양자화 등급 가이드

  Q2~Q8·GGUF 레시피. 경계 VRAM에서 한 단계씩 올리는 순서.

• 로컬 LLM 시작 (llama.cpp·GGUF)

  작은 모델로 파이프라인 고정 후 키우기.

• 이미지 생성 VRAM 감각

  SD/SDXL 해상도·배치·컨트롤넷 피크. LLM 표와 다른 이유.

• 내장·맥 통합 메모리 차이

  표기 GB ≠ 전용 VRAM. 여유를 더 남기는 읽법.

• VRAM 외에 볼 것

  대역폭·전원·쿨링·런타임이 체감을 가르는 체크리스트.

홈 · 도구 · 데이터 · 방법론