GPU VRAM·메모리 대역폭 스펙
한 줄 요약: 로컬 모델이 들어가는지는 우선 VRAM 용량, 얼마나 빠른지는 대역폭과 런타임 설정에 달립니다.
vram_gb·bus·bandwidth_gbps는 제조사 공식 스펙. bandwidth_gbps 단위는 GB/s.
| GPU | 제조사 | VRAM (GB) | 메모리 | 대역폭 (GB/s) |
|---|---|---|---|---|
| RTX 3060 12GB | NVIDIA | 12 | GDDR6 | 360 |
| RTX 4060 | NVIDIA | 8 | GDDR6 | 272 |
| RTX 4060 Ti 16GB | NVIDIA | 16 | GDDR6 | 288 |
| RTX 4070 | NVIDIA | 12 | GDDR6X | 504 |
| RTX 4090 | NVIDIA | 24 | GDDR6X | 1008 |
| RTX 5060 | NVIDIA | 8 | GDDR7 | 448 |
| RTX 5060 Ti 8GB | NVIDIA | 8 | GDDR7 | 448 |
| RTX 5060 Ti 16GB | NVIDIA | 16 | GDDR7 | 448 |
| RTX 5070 | NVIDIA | 12 | GDDR7 | 672 |
| RTX 5070 Ti | NVIDIA | 16 | GDDR7 | 896 |
| RTX 5080 | NVIDIA | 16 | GDDR7 | 960 |
| RTX 5090 | NVIDIA | 32 | GDDR7 | 1792 |
| RX 9060 XT 8GB | AMD | 8 | GDDR6 | 320 |
| RX 9060 XT 16GB | AMD | 16 | GDDR6 | 320 |
| RX 9070 | AMD | 16 | GDDR6 | 640 |
| RX 9070 XT | AMD | 16 | GDDR6 | 640 |
같은 12GB라도 세대와 대역폭이 다르면 체감 속도가 달라집니다. 용량만 보고 구매 결정을 내리지 마세요.
관련: 모델별 GGUF·필요 VRAM, GPU×모델 적재 매트릭스.
출처
- NVIDIA 공식 스펙 (https://www.nvidia.com/ko-kr/geforce/graphics-cards/)
- AMD 공식 스펙 (https://www.amd.com/ko/products/graphics/desktops/radeon.html)
자주 묻는 질문
- VRAM이 충분하면 무조건 돌아가나요?
- 필요 VRAM을 넘기면 적재 가능성은 높아지지만, 대역폭·쿨링·드라이버·런타임에 따라 속도는 크게 달라집니다.
- 대역폭 단위는?
- GB/s 입니다. 값이 클수록 같은 VRAM에서도 토큰 생성 속도 상한이 높아지는 경향이 있습니다.
- 노트북 GPU도 같은가요?
- 동일 이름이라도 노트북은 TGP가 낮고 실효 성능이 다릅니다. 본 표는 데스크톱 계열 스펙 위주입니다.
- 데이터 출처는?
- NVIDIA·AMD 공식 스펙 페이지를 우선합니다. 기준일 2026-07-13.
- 모델 표와 어떻게 같이 보나요?
- 모델별 GGUF 크기와 오버헤드를 더한 필요 VRAM이 이 표의 VRAM 이하인지 비교합니다.