# 양자화

284B 모델을 64GB RAM에 넣은 llama-modchip의 조건

llama-modchip은 GPU 없이 DeepSeek-V4-Flash를 실행한다고 보고했다. 가중치 압축과 CPU 최적화가 맡은 역할, 생성 속도와 ‘Lossless’의 비교 기준을 살펴본다.