【新生學習】第一周:深度學習及pytorch基礎


DEADLINE: 2020-07-25 22:00

寫在最前面: 本課程的主要思路還是要求大家大量練習 pytorch 代碼,在寫代碼的過程中掌握深度學習的各類算法,希望大家能夠堅持練習,相信經度過這個酷暑,不知不覺中,你會感覺自己有顯著提高。代碼教程在 github 上,如遇到圖片不顯示的情況,可參考博客解決問題:https://blog.csdn.net/qq_38232598/article/details/91346392

本周的基礎學習任務包括 視頻學習代碼練習 兩部分。部分同學可能以前學過這些內容,對內容較為熟悉的同學,可以跳過前兩部分直接進入第三部分 進階練習

1. 視頻學習

視頻學習包括兩章內容:

1.1 緒論

(下載地址:https://www.jianguoyun.com/p/DVJarjYQrKKIBhi8la0D)

  • 從專家系統到機器學習
  • 從傳統機器學習到深度學習
  • 深度學習的能與不能

1.2 深度學習概述

(下載地址:https://www.jianguoyun.com/p/DVlvT3cQrKKIBhi_la0D)

  • 淺層神經網絡:生物神經元到單層感知器,多層感知器,反向傳播和梯度消失
  • 神經網絡到深度學習:逐層預訓練,自編碼器和受限玻爾茲曼機

1.3 pytorch 基礎

(下載地址:https://www.jianguoyun.com/p/DYkxgJcQrKKIBhi5lq0D)

所有視頻下載鏈接2020年7月25日自動過期,請抓緊時間下載。

2. 代碼練習

代碼練習需要使用谷歌的 Colab,它是一個 Jupyter 筆記本環境,已經默認安裝好 pytorch,不需要進行任何設置就可以使用,並且完全在雲端運行。使用方法可以參考 Rogan 的博客:https://www.cnblogs.com/lfri/p/10471852.html 國內目前無法訪問 colab,可以安裝 Ghelper: http://googlehelper.net/

2.1 圖像處理基本練習

這部分內容包括:理解圖像類型,進行一些基本的圖像分割操作。代碼我都寫在了一個 JupyterNotebook 里面,地址為:https://github.com/OUCTheoryGroup/colab_demo/blob/master/01_Image_Processing.ipynb

要求: 把代碼輸入 colab,在線運行觀察效果。

2.2 pytorch 基礎練習

基礎練習部分包括 pytorch 基礎操作,鏈接:https://github.com/OUCTheoryGroup/colab_demo/blob/master/02_Pytorch_Basic.ipynb

要求: 把代碼輸入 colab,在線運行觀察效果。

2.3 螺旋數據分類

代碼鏈接:https://github.com/OUCTheoryGroup/colab_demo/blob/master/03_Spiral_Classification.ipynb

要求: 把代碼輸入 colab,在線運行觀察效果

備注:詳細說明可參考 https://atcold.github.io/pytorch-Deep-Learning/zh/week02/02-3/ 中英文字幕的視頻講解在B站:https://www.bilibili.com/video/BV1gV411o7AD?p=4 有精力的同學可以看看

2.4 回歸分析

代碼鏈接:https://github.com/OUCTheoryGroup/colab_demo/blob/master/04_Regression.ipynb

要求: 把代碼輸入 colab,在線運行觀察效果

備注: 詳細說明可參考 https://atcold.github.io/pytorch-Deep-Learning/zh/week02/02-3/ 中英文字幕的視頻講解在B站:https://www.bilibili.com/video/BV1gV411o7AD?p=4 有精力的同學可以看看

3. 進階練習(optional)

本部分代碼練習為選做內容,考慮到大家基礎不同,這部分供有余力的同學選做。主要內容包括: 遷移學習、圖像分類、VGG模型

notebook鏈接:https://github.com/OUCTheoryGroup/colab_demo/blob/master/05_04_Transfer_VGG_for_dogs_vs_cats.ipynb

這部分為 Kaggle 於 2013 年舉辦的貓狗大戰競賽,使用在 ImageNet 上預訓練的 VGG 網絡進行測試。因為原網絡的分類結果是1000類,所以這里進行遷移學習,對原網絡進行 fine-tune (即固定前面若干層,作為特征提取器,只重新訓練最后兩層)。

仔細研讀AI研習社貓狗大戰賽題的要求:https://god.yanxishe.com/41 (目前比賽已經結束,但仍可做為練習賽每天提交測試結果)

下載比賽的測試集(包含2000張圖片),利用fine-tune的VGG模型進行測試,按照比賽規定的格式輸出,上傳結果評測(練習賽每天僅可評測5次)。我已進行測試,VGG模型訓練 1 個 epoch 的准確率約為 96.1 %。

大家可以思考,如何改進當前模型,可以進一步提高分類准確率。有了這些技術積累,可以較好的應對未來的 kaggle 競賽。

4. 博客作業要求

完成一篇博客,題目為 “ 第一次作業:深度學習基礎 ” ,博客內容包括三部分:

【第一部分】視頻學習心得及問題總結

根據三個視頻的學習內容,寫一個總結,最后列出沒有學明白的問題,初步計划針對大家的疑問,下周四(7月23日)下午在騰訊會議討論一下,大家可提前把問題列出來。(以前已經學過視頻課程的同學可以略過此步驟)

【第二部分】代碼練習

在谷歌 Colab 上完成代碼練習中的 2.1、2.2、2.3、2.4 節,關鍵步驟截圖,並附一些自己的想法和解讀。(以前已進行過代碼練習的同學可以略過此步驟)

【第三部分】進階練習(選做)

在谷歌 Colab 上完成貓狗大戰的VGG模型的遷移學習,關鍵步驟截圖,並附一些自己想法和解讀。

在該代碼的基礎上,下載AI研習社“貓狗大戰”比賽的測試集,利用fine-tune的VGG模型進行測試,按照比賽規定的格式輸出,上傳結果在線評測。將在線評測結果截圖,及實現代碼發在博客。同時,分析使用哪些技術可以進一步提高分類准確率。

大家有任何問題可以隨時在群里交流。


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM