Vision Transformer - Pytorch ViT 模型代码库

vit-pytorch 是 GitHub 用户 lucidrains 编写的开源代码库，用 PyTorch 实现视觉 Transformer（ViT），即只用一个 Transformer 编码器完成图像分类的模型结构，并收录了大量后续变体，采用 MIT 许可。仓库本身不提供预训练权重，需要自行训练或使用其他项目的权重。

能做什么

• 直接调用 ViT、SimpleViT 以及可处理不同分辨率图像的 NaViT 等模型
• 使用 CaiT、CrossViT、MaxViT 等变体，以及 MAE、SimMIM、DINO 等自监督预训练方法
• 做知识蒸馏、视频或三维数据建模，并提取注意力图和特征向量

运行需要：Python 和 PyTorch（pip install vit-pytorch）；训练所需的显卡和内存取决于模型规模和数据量；不依赖在线服务。