Self-Supervised Machine Learning

内容

• Introduction Introduction

  • Course prerequisites

    1 分钟 14 秒
  • The need for self-supervised learning

    5 分钟 33 秒
  • Supervised, unsupervised, and self-supervised learning

    5 分钟 20 秒
  • Constructing self-supervised tasks

    2 分钟 9 秒
  • Generalized representations and pretext tasks

    5 分钟 27 秒
• 1. Self-Supervised Learning in Computer Vision 1. Self-Supervised Learning in Computer Vision

  • Self-supervised learning in computer vision

    1 分钟 33 秒
  • (已锁定)
    Pretext task: Predicting image rotation

    2 分钟 26 秒
  • (已锁定)
    Pretext task: Image colorization

    1 分钟 22 秒
  • (已锁定)
    Pretext task: Image inpainting

    43 秒
  • (已锁定)
    Pretext task: Predictive relative position

    3 分钟 19 秒
  • (已锁定)
    Pretext task: Jigsaw task

    4 分钟 6 秒
  • (已锁定)
    Pretext task: Video

    2 分钟 39 秒
  • (已锁定)
    Pretext task: Video and sound

    1 分钟 34 秒
• 2. Contrastive and Non-contrastive Learning Techniques 2. Contrastive and Non-contrastive Learning Techniques

  • Objective of self-supervised learning

    5 分钟 19 秒
  • (已锁定)
    Contrastive and non-contrastive learning

    5 分钟 6 秒
  • (已锁定)
    Contrastive learning

    5 分钟 7 秒
  • (已锁定)
    Pretext Invariant Representation Learning (PIRL)

    4 分钟 21 秒
  • (已锁定)
    Clustering

    3 分钟 54 秒
  • (已锁定)
    Distillation

    2 分钟 19 秒
  • (已锁定)
    BYOL and SimSiam

    4 分钟 35 秒
  • (已锁定)
    Redundancy reduction: Barlow Twins

    7 分钟 40 秒
• 3. Getting Set Up with the Demo Environment 3. Getting Set Up with the Demo Environment

  • PyTorch lightning and lightning bolts

    3 分钟 58 秒
  • (已锁定)
    Exploring the flowers data set

    1 分钟 35 秒
  • (已锁定)
    Using Google Colab

    2 分钟 38 秒
• 4. Transfer Learning Using Supervised Pretraining 4. Transfer Learning Using Supervised Pretraining

  • (已锁定)
    Brief overview of transfer learning

    3 分钟 28 秒
  • (已锁定)
    Loading the image data set

    5 分钟 13 秒
  • (已锁定)
    Setting up the data module

    4 分钟 19 秒
  • (已锁定)
    Setting up the classification model

    5 分钟 34 秒
  • (已锁定)
    Training the classification model: Frozen backbone

    4 分钟 27 秒
  • (已锁定)
    Training the classification model: Fine-tuning backbone

    4 分钟 23 秒
• 5. Self-Supervised Contrastive Learning with SimCLR 5. Self-Supervised Contrastive Learning with SimCLR

  • (已锁定)
    Contrastive learning: SimCLR

    5 分钟 3 秒
  • (已锁定)
    Loading the data set

    2 分钟 17 秒
  • (已锁定)
    Image classification using the SimCLR pretrained model

    5 分钟 3 秒
• 6. Self-Supervised Clustering with SwAV 6. Self-Supervised Clustering with SwAV

  • (已锁定)
    Non-contrastive learning: Clustering with SwAV

    6 分钟 30 秒
  • (已锁定)
    Image classification using the SwAV pretrained model

    5 分钟 17 秒
• Conclusion Conclusion

  • (已锁定)
    Summary and next steps

    1 分钟 48 秒