项目
这里是我的折腾项目。还有些没有整理的项目,可以 访问我的 GitHub 查看/关注。
- AI Infra
LoongForge
百度百舸团队开源的高性能大模型、多模态及具身智能分布式训练框架,贡献支持 GLM-5.3-flash 等多模态与大语言模型训练流程与算子适配。
PythonMegatron-LMCUDAPyTorch - AI Infra
SD3.5-large-fp8
Stable Diffusion 3.5 Large 模型的 FP8 量化权重(包含 fp8_e4m3fn 与 fp8_e5m2),降低显存占用并适配 Diffusers 快速推理流程。
PythonPyTorchDiffusersFP8 - AI Infra
deepspeed-diffusers
🚀 原生使用 DeepSpeed 训练 Diffusers | Native Training of Diffusers with Deepspeed,支持 UNet 全量与 LoRA 微调,支持 Slurm 调度与单/多节点分布式训练。
PythonDeepSpeedDiffusersPyTorchSlurm