PyTorch FX 框架
PyTorch 在 1.8 版本引入的图变换工具,允许开发者直接操作计算图.在 2.0 版本后被 torch.compile 取代
PyTorch 在 1.8 版本引入的图变换工具,允许开发者直接操作计算图.在 2.0 版本后被 torch.compile 取代
PyTorch 在 1.8 版本引入的 Python 层 IR.与之配套的,还引入了图变换工具,可以直接操作计算图,以图的形式表达和转换模型.这里我们主要提及 PyTorch FX IR
当我们对模型做低比特量化的时候,总是不可避免地需要将奇奇怪怪的浮点数格式或者整数格式 dump 为二进制文件,方便 C/C++/CUDA 进行读取.PyTorch 可以方便地进行计算,而 NumPy 可以方便地写入二进制进行存储——但很可惜,对于 PyTorch 的一些数据格式,NumPy 是不支持的,所以需要用奇奇怪怪的方法绕过……