TA的每日心情 | 开心 21 小时前 |
---|
签到天数: 2807 天 连续签到: 26 天 [LV.Master]伴坛终老
- 注册时间
- 2012-9-3
- 最后登录
- 2025-4-12

管理员
2012年到2024年,感谢各位会员朋友的支持!
      

|
课程简介:
Transformer在许多NLP(自然语言处理)任务中取得了SOTA的成果。 ViT (Vision Transformer)是Transformer应用于CV(计算机视觉)领域里程碑式的工作,后面发展出更多的变体,如Swin Transformer。
ViT (Vision Transformer)模型发表于论文An Image is Worth 16X16 Words: Transformer For Image Recognition At Scale,使用纯Transformer进行图像分类。ViT在JFT-300M数据集上预训练后,可超过卷积神经网络ResNet的性能,并且所用的训练计算资源可更少。
本课程对ViT的原理与PyTorch实现代码进行精讲,来帮助大家掌握其详细原理和具体实现。其中代码实现包含两种代码实现方式,一种是采用timm库,另一种是采用einops/einsum。
原理精讲部分包括:Transformer的架构概述、Transformer的Encoder 、Transformer的Decoder、ViT架构概述、ViT模型详解、ViT性能及分析。
代码精讲部分使用Jupyter Notebook对ViT的PyTorch代码进行逐行解读,包括:安装PyTorch、ViT的timm库实现代码解读、 einops/einsum 、ViT的einops/einsum实现代码解读。
课程目录:
1 课程介绍.mp4
2 Transformer架构概述.mp4
3 Transformer的Encoder.mp4
4 Transformer的Decoder.mp4
5 ViT架构概述.mp4
6 ViT模型详解.mp4
7 ViT性能及分析.mp4
8 安装pytorch.mp4
9 ViT的timm库实现代码精讲.mp4
10 einops和einsum.mp4
11 ViT的einops einsum代码实现精讲.mp4
ViT(VisionTransformer)原理与代码精讲.zip
下载地址:
|
|