标签:LoRA
将 MOE 塞到 LoRA: 一篇文章的诞生
摘要:本文介绍了一种新的低秩适应方法,名为Mixture-of-Subspaces in Low-Rank Adaptation (MoSLoRA)。这种方法在传统的LoRA中加入了一个Mixer矩阵,用于混...
微软开源创新LoRA组合方法,增强文生图复杂细节控制
本文介绍了微软和伊利诺伊大学研究人员开发的Multi-LoRA Composition方法,旨在解决在模型中应用多个LoRA构建复杂图像时出现的图像失真和细节控制难题。该方...