标签:内存优化

麻省理工提出“跨层注意力”,极大优化Transformer缓存

摘要:专注于AIGC领域的专业社区关注了微软、OpenAI、百度文心一言、讯飞星火等大语言模型(LLM)的发展和应用落地,以及市场研究和AIGC开发者生态。其中,Tr...

比SAM快30倍的SAM-Lightening来了!推理一张图仅需7毫秒(北航)

摘要:本文介绍了一种名为SAM-Lightening的新型图像分割模型,它是Segment Anything Model(SAM)的变体,旨在解决原始SAM在实际应用中的低推理速度和高计算...