标签:Transformer

PointMamba: 点云分析的简单状态空间模型

PointMamba: A Simple State Space Model for Point Cloud Analysis 是一种新颖的点云分析工具,通过高效的全局建模能力和简洁的模型结构,在3D视觉任务中展...

ICLR2024 oral:小尺度Transformer如何Scale Up

摘要:本文研究了放大Transformer模型时遇到的训练不稳定性问题,并提出了研究和预测这些不稳定性的方法。作者指出,尽管扩展Transformer模型已在多个领域取...
1345