multi-thread

Password is needed to access the blog.

大模型权重文件 .gguf 分析以及转换

.gguf 是 HuggingFace 推出的模型权重文件格式,基本成为标准了。所以解析一下 gguf 的文件格式

Linux 下用 HKU 账号使用 HK eduroam WiFi

Linux 下需要手动配置,用这个帖子记录一下,方便随时查阅

Docker Introduction

Docker

本地部署 llama.cpp 大模型服务器并连接

记录一下 llama.cpp 的使用,顺便给日后读 llama.cpp 的源码挖个坑(说不定混点 contribute)

123