标签:Pixel Transformer

局部归纳偏置真的有必要吗?探索 Transformer 新范式:一个像素就是一个 token!

PiT的提出质疑了局部性在视觉任务中的基本归纳偏置地位,尽管直接操作单个像素在计算复杂度上存在不实用之处,但研究者认为,随着处理超长序列技术的发展,Pi...