大模型权重文件 .gguf 分析以及转换

.gguf

.gguf 是 Hugging Face 自己开发的大模型权重格式，适合快速载入模型以及推理。最初在 llama.cpp 项目里使用。

GGUF