Arca's Blog
o/
2026
MapReduce Architecture
CUDA Multiple GPU
CUDA Data Transmission
CUDA Multi Streaming
Latency Hiding: CUDA Async Pipeline Execution
存算重叠：双缓冲 (Double Buffering) 与多级流水线 (pipelining)
cuda 常用官方库
Rust: Multi-Processing
Concurrency in OS: Instruction Reordering & Memory Model
Rust: 并发编程
Tuning Technique
.pth Model Format of PyTorch
Sage Attention v1,v2,v3 代码梳理 (2):
[Paper] Sage Attention v2 与 v2++
[Paper] Sage Attention v1: 对 Attention 的 INT8 PTQ
[Paper] HO-SFL: Hybrid-Order Split Federated Learning with BP-Free Client and Dimension-Free Aggregation
ReAct Agent 框架
单例模式 (Singleton)
Git Snippets: hard reset + soft reset + merge 清理复杂历史
Git Snippets: 本地合并上游分支
NVIDIA GPU 大学习之 Tensor Core
CUDA 算子优化：Warp Divergence
CUDA 算子优化：ILP
CUDA 算子优化：微指令调优
CUDA 算子优化：PTX
CUDA 算子优化：量化
Design Pattern: Factory Method
ninetoothed: CodeGenerator workflow
Rust Iterators
Rust Trait (3): TryFrom, TryInto
ninetoothed 项目整理
Rust STL (2): Vector
Rust STL (1): HashMap
Rust Trait (2): From, Into
Rust Trait (1): AsRef, AsMut
LLM Inference (1): Chat Server 与流式输出
gflags 简易指南：C++ 命令行参数解析库
模型训练框架：Model Checkpoints
PyTorch 中的 AutoGrad 机制
Activation Checkpointing
ZeRO: Zero Redundancy Optimizer
分布式训练
PyTorch Extension: 算子集成
Sage Attention v1,v2,v3 代码梳理 (1)：INT8 Per-Block Quant Kernel
Bank Conflict
GPU Parallelism: PTX
Memory Alignment & Coalescing
SIMD 优化
Nsight Compute 简易指南
Roofline 模型
cuda-gdb 简易指南
CUDA 查询设备信息
CUDA Technique: Grid-Strided Loop
Nsight Systems 简易指南
CUDA 编译流程
GPU Architecture for CUDA
CUDA Optimization: Swizzling
CUDA Kernel: ArgMax
AI Infra Engineering: Abstraction
Git Snippets: 合并 Commits
PyTorch ATen 算子体系
InfiniTensor AI Compiler v2.0 整理：GraphBuilder
Raft Consensus Protocol
[Paper] Merge Then Compress
计算平台中的 slurm & srun 简易指南
InfiniTensor AI Compiler v2.0 整理
Python 与 C/C++ 联合开发（二）：Pybind11
NumPy 与 PyTorch 在数据格式上的互转与二进制存储
NF4 Dequant CUDA Kernel 优化过程 (1)
Rust 的智能指针
[Paper] QLoRA 解读：LLM 4-bit 方案与双层量化
Arch Linux 下所有 CUDA 开发相关的包
Git Snippets: 先 clone 后下载 submodule
常用分布
Git Snippets: 将原仓库下的新分支同步到自己 fork 的仓库中
Typst 里好用的 package 以及常用设置
在 ArchLinux 上从零构建 RISC-V Linux 并使用 QEMU 进行模拟
Bash Associative Array (Dictionary)
Rust: Crate & Package & Module
Rust 泛型
C++ 智能指针与资源管理
Google C++ 风格指南
Python Decorator
C++ 的 static 关键字
Python 与 C/C++ 联合开发（一）：ctypes 库
[Paper] Does Training with Synthetic Data Truly Protect Privacy?
张量的存储布局、步长以及张量操作的关系
用 Foundry 工具链开发智能合约
Solidity 重要语法
OCaml：基础类型
OCaml：基础语法
Haskell 高级概念总结
Haskell: Applicative
Practical Haskell: Text/ByteString & Web HTTP
Haskell: Monads & Applicative
Haskell: Functors
Haskell 中的 IO
How does Haskell work
Haskell 类型系统
Haskell 基础语法
Git Snippets: 从旧 commit 分叉出新 branch
[Paper] LoRA Fine-tuning
Triton 编写 Flash Attention
cuda 编写 flash attention 算子
ArchLinux 下将 CapsLock 映射到 Escape
[Paper] Flash Mask: 在 Flash Attention 上任意掩码以适配不同任务
[Paper] Deepseek FP8 训练方案
[Paper] Flash Attention
[Paper] Sage Attention v3
The Second Half of AI
nmcli 配置 HKU WiFi