大模型推理系统

大模型逐渐从实验室走向商业企业，我们需要大模型推理系统来支撑起大规模的推理需求。