>_ 브램체크

이 모델, 내 그래픽카드로 돌아갈까

컨텍스트 반영 VRAM

모델은 들어가는데 긴 대화에서 OOM — 대부분 KV입니다.

공식

total = weights + kv_kib×tokens/1024/1024

숫자 예제

5 + 320×4096/1024/1024 ≈ 6.25GB

임베드

<iframe src="https://vramcheck.net/tools/ctx-vram/?lite=1" style="width:100%;min-height:300px;border:0" loading="lazy"></iframe>
<p><a href="https://vramcheck.net/tools/ctx-vram/">컨텍스트 VRAM — 브램체크</a></p>

관련

고지

본 도구는 정보 제공 목적이며 세무·법률·투자·구매 자문이 아닙니다. 공식은 페이지에 평문으로 공개되어 있으며, 실제 청구·신고·견적과 다를 수 있습니다.

자주 묻는 질문

KV가 뭔가요?
어텐션 캐시. 토큰이 늘수록 VRAM을 더 씁니다.
자문인가요?
아닙니다.

이 도구를 블로그에 넣기

아래 코드를 붙여 넣으면 도구가 그대로 작동합니다. 출처 링크는 함께 남겨 주세요.

<iframe src="https://vramcheck.net/tools/ctx-vram/?lite=1" width="100%" height="560" loading="lazy" style="border:1px solid #ddd;border-radius:8px" title="컨텍스트 길이별 VRAM 계산기 (KV 캐시)"></iframe>
<p><a href="https://vramcheck.net/tools/ctx-vram/">컨텍스트 길이별 VRAM 계산기 (KV 캐시) — 브램체크</a></p>
컨텍스트 VRAM — 브램체크 원본 보기 ↗