《Python深度學(xué)習(xí)》是軟件工程專業(yè)中地一門深度學(xué)習(xí)基礎(chǔ)課程,該課程以深度學(xué)習(xí)框架為基礎(chǔ),介紹了機(jī)器學(xué)習(xí)地基礎(chǔ)知識(shí)與常用方法,以實(shí)例地方式學(xué)習(xí)機(jī)器學(xué)習(xí)操作地原理與其在深度學(xué)習(xí)框架下地實(shí)踐步驟。主要內(nèi)容包含深度學(xué)習(xí)基礎(chǔ)知識(shí),深度學(xué)習(xí)框架與其對(duì)比,機(jī)器學(xué)習(xí)基礎(chǔ)知識(shí),深度學(xué)習(xí)框架(以PyTorch為例)基礎(chǔ),Logistic回歸,多層感知器,卷積神經(jīng)網(wǎng)絡(luò)與計(jì)算機(jī)視覺,神經(jīng)網(wǎng)絡(luò)與自然語(yǔ)言處理。并通過(guò)8?jìng)(gè)深度學(xué)習(xí)實(shí)例地學(xué)習(xí),幫助學(xué)生更好地掌握深度學(xué)習(xí)知識(shí),做到理論與實(shí)踐相結(jié)合,方法與應(yīng)用相結(jié)合。本課程除要求學(xué)生掌握以上深度學(xué)習(xí)知識(shí),更重要地是要求學(xué)生掌握理論與實(shí)踐結(jié)合地學(xué)習(xí)方式,為更深入地學(xué)習(xí)打下良好地基礎(chǔ)。
課程大綱
第一章 緒論
1.1 從專家系統(tǒng)到機(jī)器學(xué)習(xí)
1.2 從傳統(tǒng)機(jī)器學(xué)習(xí)到深度學(xué)習(xí)
1.3 深度學(xué)習(xí)的能與不能
1.4 pytorch 基礎(chǔ)
第二章 神經(jīng)網(wǎng)絡(luò)基礎(chǔ)
2.1 淺層神經(jīng)網(wǎng)絡(luò):生物神經(jīng)元到單層感知器,多層感知器,反向傳播和梯度消失
2.2 神經(jīng)網(wǎng)絡(luò)到深度學(xué)習(xí):逐層預(yù)訓(xùn)練,自編碼器和受限玻爾茲曼機(jī)
2.3 pytorch 編程練習(xí)
第三章 卷積神經(jīng)網(wǎng)絡(luò)
3.1 卷積神經(jīng)網(wǎng)絡(luò) VS 傳統(tǒng)神經(jīng)網(wǎng)絡(luò)
3.2 基本組成結(jié)構(gòu):卷積、池化、全連接
3.3 典型結(jié)構(gòu):AlexNet, ZFNet, VGG, GoogleNet, ResNet
3.4 pytorch 代碼講解
第四章 循環(huán)神經(jīng)網(wǎng)絡(luò)
4.1 循環(huán)神經(jīng)網(wǎng)絡(luò) VS 卷積神經(jīng)網(wǎng)絡(luò)
4.2 循環(huán)神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu):深度RNN,雙向RNN,BPTT算法
4.3 循環(huán)神經(jīng)網(wǎng)絡(luò)的變種:LSTM,Grid-LSTM,GRU
4.4 擴(kuò)展: 解決RNN梯度消失的辦法,基于注意力機(jī)制的RNN
第五章 目標(biāo)檢測(cè)
5.1 基本概念,評(píng)測(cè)標(biāo)準(zhǔn),數(shù)據(jù)集,國(guó)際競(jìng)賽
5.2 準(zhǔn)備工作:滑動(dòng)窗口、目標(biāo)候選生成、難樣本挖掘、非極大值抑制、檢測(cè)框回歸
5.3 目標(biāo)檢測(cè)兩階段方法:R-CNN, SPP-Net, Fast R-CNN, Faster R-CNN, FPN, RFCN
5.4 目標(biāo)檢測(cè)單階段方法: YOLO, SSD, Retina Net
5.5 十行代碼實(shí)現(xiàn)目標(biāo)檢測(cè)
第六章 生成式對(duì)抗網(wǎng)絡(luò)(GAN)基礎(chǔ)
6.1 基礎(chǔ):圖像生成、修復(fù)、風(fēng)格遷移、文字生成圖片
6.2 理論基礎(chǔ):模型和目標(biāo)函數(shù),全局最優(yōu)解,pytorch 實(shí)現(xiàn)
6.3 條件生成式對(duì)抗網(wǎng)絡(luò)(Conditional GAN)與 pytorch 實(shí)現(xiàn)
6.4 深度卷積生成式對(duì)抗網(wǎng)絡(luò)(Deep Convolutional GAN,DCGAN)與 pytorch 實(shí)現(xiàn)
6.5 Wasserstein GAN (WGAN)與 pytorch 實(shí)現(xiàn)
第七章 生成對(duì)抗網(wǎng)絡(luò)GAN前沿
7.1 ProgressiveGAN、Spectral Normalization GAN、Self-Attention GAN
7.2 以圖像翻譯為例,用 pytorch 實(shí)現(xiàn) Pix2pix
7.3 以圖像翻譯為例,用 pytorch 實(shí)現(xiàn) CycleGAN
第八章 前沿技術(shù)
8.1 深度強(qiáng)化學(xué)習(xí):策略梯度法、Deep Q-Network、Actor-Critic方法
8.2 遷移學(xué)習(xí):種類及代表性方法,域自適應(yīng)
8.3 圖卷積神經(jīng)網(wǎng)絡(luò)
8.4 深度學(xué)習(xí)可視化及解釋


