
ColossalChat是首个完整RLHF开源实现,从SFT到奖励模型到PPO三阶段可复现,技术路线最接近ChatGPT原始论文。4GB GPU即可跑 4-bit量化,部署门槛低。 中英双语数据集和训练代码全部开源,GitHub +星标验证社区活跃度。Colossal-AI后训练工具箱支持微调DeepSeek/R1。特别适合研究人员复现RLHF、中小企业低成本部署私有聊天模型、以及需要可解释训练流程的开发者。
ColossalChat是Colossal-AI团队推出的开源聊天模型。首个包含完整RLHF流程的开源项目,包含监督微调、奖励模型训练、强化学习微调三阶段。提供 中英文双语数据集、70亿/ 模型、4GB GPU即可4-bit量化推理。
使用门槛: 需要一定基础
完整RLHF训练流程
开源监督微调、奖励模型训练、强化学习微调三阶段完整代码
低资源推理部署
4GB GPU即可进行 模型的4-bit量化推理
双语数据集
提供中英文双语对话数据集,支持高质量微调
RLHF研究与复现
研究人员使用完整RLHF流程复现和实验ChatGPT类训练方法
私有化聊天模型部署
企业在本地或私有云部署ColossalChat,保障数据安全
完全开源免费,代码、数据集、模型权重均可免费使用。自部署需自行承担服务器和算力成本。
4GB GPU即可进行 模型的4-bit量化推理,适合个人和轻量部署。
来自真实用户的评价和反馈