>_
브램체크
이 모델, 내 그래픽카드로 돌아갈까
홈
/
컨텍스트 길이별 VRAM
컨텍스트 길이별 VRAM
토큰이 길수록 KV 캐시가 VRAM을 잡아먹습니다.
컨텍스트 계산기
·
공식
2,048 토큰
4,096 토큰
8,192 토큰
16,384 토큰
32,768 토큰
65,536 토큰
131,072 토큰
자주 묻는 질문
무엇을 위한 목록인가요?
토큰이 길수록 KV 캐시가 VRAM을 잡아먹습니다.
자문인가요?
아닙니다. 교육용입니다.
컨텍스트 길이별 VRAM — 브램체크 원본 보기 ↗