Quantization

llama.cppの量子化技術（GGUF）の仕組みを解説