开通VIP会员
扫码访问
查看: 240|回复: 7

[人工智能&深度学习] ViT(Vision Transformer)原理与代码精讲

[复制链接]
  • TA的每日心情
    开心
    21 小时前
  • 签到天数: 2807 天

    连续签到: 26 天

    [LV.Master]伴坛终老

    注册时间
    2012-9-3
    最后登录
    2025-4-12

    2万

    主题

    6017

    回帖

    5万

    积分

    管理员

    2012年到2024年,感谢各位会员朋友的支持!

    推广达人宣传达人突出贡献优秀版主荣誉管理论坛元老vip会员

    QQ
    发表于 2025-4-4 00:13:12 | 显示全部楼层 |阅读模式
    课程简介:
    Transformer在许多NLP(自然语言处理)任务中取得了SOTA的成果。 ViT (Vision Transformer)是Transformer应用于CV(计算机视觉)领域里程碑式的工作,后面发展出更多的变体,如Swin Transformer。
    ViT (Vision Transformer)模型发表于论文An Image is Worth 16X16 Words: Transformer For Image Recognition At Scale,使用纯Transformer进行图像分类。ViT在JFT-300M数据集上预训练后,可超过卷积神经网络ResNet的性能,并且所用的训练计算资源可更少。
    本课程对ViT的原理与PyTorch实现代码进行精讲,来帮助大家掌握其详细原理和具体实现。其中代码实现包含两种代码实现方式,一种是采用timm库,另一种是采用einops/einsum。  
    原理精讲部分包括:Transformer的架构概述、Transformer的Encoder 、Transformer的Decoder、ViT架构概述、ViT模型详解、ViT性能及分析。  
    代码精讲部分使用Jupyter Notebook对ViT的PyTorch代码进行逐行解读,包括:安装PyTorch、ViT的timm库实现代码解读、 einops/einsum 、ViT的einops/einsum实现代码解读。

    image.png


    课程目录:
    1 课程介绍.mp4
    2 Transformer架构概述.mp4
    3 Transformer的Encoder.mp4
    4 Transformer的Decoder.mp4
    5 ViT架构概述.mp4
    6 ViT模型详解.mp4
    7 ViT性能及分析.mp4
    8 安装pytorch.mp4
    9 ViT的timm库实现代码精讲.mp4
    10 einops和einsum.mp4
    11 ViT的einops einsum代码实现精讲.mp4
    ViT(VisionTransformer)原理与代码精讲.zip

    下载地址:
    游客,如果您要查看本帖隐藏内容请回复



    回复

    举报

  • TA的每日心情
    奋斗
    20 小时前
  • 签到天数: 2678 天

    连续签到: 25 天

    [LV.Master]伴坛终老

    37

    主题

    1万

    回帖

    4655

    积分

    藏宝阁VIP会员

    积分
    4655
    发表于 2025-4-4 08:00:00 来自手机 | 显示全部楼层
    回复

    举报

  • TA的每日心情
    开心
    11 小时前
  • 签到天数: 416 天

    连续签到: 17 天

    [LV.9]以坛为家II

    0

    主题

    768

    回帖

    1191

    积分

    金牌会员

    积分
    1191
    发表于 2025-4-4 08:54:34 | 显示全部楼层
    回复

    举报

  • TA的每日心情

    21 小时前
  • 签到天数: 2678 天

    连续签到: 25 天

    [LV.Master]伴坛终老

    40

    主题

    1万

    回帖

    4692

    积分

    藏宝阁VIP会员

    积分
    4692
    发表于 7 天前 | 显示全部楼层
    回复

    举报

  • TA的每日心情
    慵懒
    7 天前
  • 签到天数: 9 天

    连续签到: 1 天

    [LV.3]偶尔看看II

    0

    主题

    28

    回帖

    85

    积分

    藏宝阁VIP会员

    积分
    85
    发表于 7 天前 | 显示全部楼层
    回复

    举报

  • TA的每日心情

    19 小时前
  • 签到天数: 2678 天

    连续签到: 25 天

    [LV.Master]伴坛终老

    36

    主题

    1万

    回帖

    4662

    积分

    藏宝阁VIP会员

    积分
    4662
    发表于 6 天前 | 显示全部楼层
    回复

    举报

  • TA的每日心情
    开心
    3 天前
  • 签到天数: 6 天

    连续签到: 4 天

    [LV.2]偶尔看看I

    0

    主题

    26

    回帖

    42

    积分

    藏宝阁VIP会员

    积分
    42
    发表于 6 天前 来自手机 | 显示全部楼层
    回复

    举报

  • TA的每日心情

    21 小时前
  • 签到天数: 2683 天

    连续签到: 25 天

    [LV.Master]伴坛终老

    44

    主题

    1万

    回帖

    4568

    积分

    藏宝阁VIP会员

    积分
    4568
    发表于 3 天前 | 显示全部楼层
    回复

    举报

    懒得打字嘛,点击右侧快捷回复
    您需要登录后才可以回帖 登录 | 注册

    本版积分规则

    在线咨询
    快速回复 返回顶部 返回列表