LoRA/QLoRA VRAM 스케치
추론은 되는데 학습에서 OOM — 피크가 다릅니다.
이 모델, 내 그래픽카드로 돌아갈까
추론은 되는데 학습에서 OOM — 피크가 다릅니다.
학습 스케치 = 추론 × 배수. 배수 1.3~2.0 구간을 민감도로 시험하세요.
8GB × 1.6 = 12.8GB.
임베드:
<iframe src="https://vramcheck.net/tools/lora-vram/?embed=1" title="LoRA·QLoRA VRAM 스케치" loading="lazy" style="width:100%;min-height:420px;border:0"></iframe> <p><a href="https://vramcheck.net/tools/lora-vram/">LoRA·QLoRA VRAM 스케치 — 브램체크</a></p>
정보 제공 목적. 세무·법률·투자·구매 자문이 아닙니다.
교육용 배수 가정입니다.