最近，Everlyn为量子位带来了一个令人振奋的消息——仅需8张GPU训练，就能实现近乎 SOTA 的高质量图像生成效果的开源预训练方案LightGen即将面世！这款由香港科技大学的Harry Yang教授团队联合EverlynAI等机构联手打造的模型，借助知识蒸馏（KD）与直接偏好优化（DPO）技术，有效地压缩了图像生成模型的训练周期。

在图像生成领域，一项令人振奋的创新来了！仅需8张GPU，就能训练出接近SOTA（State Of The Art）水平的高质量图像生成模型——LightGen。这一超低成本的图像生成预训练方案由香港科技大学的Harry Yang教授团队与EverlynAI等机构联合打造，采用了高效的知识蒸馏（KD）和直接偏好优化（DPO）策略，从而有效压缩了模型的训练流程。

分享摘要：本文聚焦DPO方法中的似然位移问题，提出DPO-Shift方法。 该方法在Bradley-Terry模型的拒绝奖励中添加参数函数，以可控地调整概率分布。

国家卫健委此前发布消息，取消门诊预交金，并将医保患者住院预交金额度降至同病种个人自付平均水平，该政策从3月起实施。记者2日获悉，目前 ...