《Ｐｙｔｈｏｎ深度學(xué)習(xí)》是軟件工程專業(yè)中地一門深度學(xué)習(xí)基礎(chǔ)課程，該課程以深度學(xué)習(xí)框架為基礎(chǔ)，介紹了機(jī)器學(xué)習(xí)地基礎(chǔ)知識(shí)與常用方法，以實(shí)例地方式學(xué)習(xí)機(jī)器學(xué)習(xí)操作地原理與其在深度學(xué)習(xí)框架下地實(shí)踐步驟。主要內(nèi)容包含深度學(xué)習(xí)基礎(chǔ)知識(shí)，深度學(xué)習(xí)框架與其對(duì)比，機(jī)器學(xué)習(xí)基礎(chǔ)知識(shí)，深度學(xué)習(xí)框架（以ＰｙＴｏｒｃｈ為例）基礎(chǔ)，Ｌｏｇｉｓｔｉｃ回歸，多層感知器，卷積神經(jīng)網(wǎng)絡(luò)與計(jì)算機(jī)視覺，神經(jīng)網(wǎng)絡(luò)與自然語(yǔ)言處理。并通過８?jìng)�(gè)深度學(xué)習(xí)實(shí)例地學(xué)習(xí)，幫助學(xué)生更好地掌握深度學(xué)習(xí)知識(shí)，做到理論與實(shí)踐相結(jié)合，方法與應(yīng)用相結(jié)合。本課程除要求學(xué)生掌握以上深度學(xué)習(xí)知識(shí)，更重要地是要求學(xué)生掌握理論與實(shí)踐結(jié)合地學(xué)習(xí)方式，為更深入地學(xué)習(xí)打下良好地基礎(chǔ)。

課程大綱

第一章　緒論

１．１　從專家系統(tǒng)到機(jī)器學(xué)習(xí)

１．２　從傳統(tǒng)機(jī)器學(xué)習(xí)到深度學(xué)習(xí)

１．３　深度學(xué)習(xí)的能與不能

１．４　ｐｙｔｏｒｃｈ　基礎(chǔ)

第二章　神經(jīng)網(wǎng)絡(luò)基礎(chǔ)

２．１　淺層神經(jīng)網(wǎng)絡(luò)：生物神經(jīng)元到單層感知器，多層感知器，反向傳播和梯度消失

２．２　神經(jīng)網(wǎng)絡(luò)到深度學(xué)習(xí)：逐層預(yù)訓(xùn)練，自編碼器和受限玻爾茲曼機(jī)

２．３　ｐｙｔｏｒｃｈ　編程練習(xí)

第三章　卷積神經(jīng)網(wǎng)絡(luò)

３．１　卷積神經(jīng)網(wǎng)絡(luò)　ＶＳ　傳統(tǒng)神經(jīng)網(wǎng)絡(luò)

３．２　基本組成結(jié)構(gòu)：卷積、池化、全連接

３．３　典型結(jié)構(gòu)：ＡｌｅｘＮｅｔ，　ＺＦＮｅｔ，　ＶＧＧ，　ＧｏｏｇｌｅＮｅｔ，　ＲｅｓＮｅｔ

３．４　ｐｙｔｏｒｃｈ　代碼講解

第四章　循環(huán)神經(jīng)網(wǎng)絡(luò)

４．１　循環(huán)神經(jīng)網(wǎng)絡(luò)　ＶＳ　卷積神經(jīng)網(wǎng)絡(luò)

４．２　循環(huán)神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)：深度ＲＮＮ，雙向ＲＮＮ，ＢＰＴＴ算法

４．３　循環(huán)神經(jīng)網(wǎng)絡(luò)的變種：ＬＳＴＭ，Ｇｒｉｄ－ＬＳＴＭ，ＧＲＵ

４．４　擴(kuò)展：　解決ＲＮＮ梯度消失的辦法，基于注意力機(jī)制的ＲＮＮ

第五章　目標(biāo)檢測(cè)

５．１　基本概念，評(píng)測(cè)標(biāo)準(zhǔn)，數(shù)據(jù)集，國(guó)際競(jìng)賽

５．２　準(zhǔn)備工作：滑動(dòng)窗口、目標(biāo)候選生成、難樣本挖掘、非極大值抑制、檢測(cè)框回歸

５．３　目標(biāo)檢測(cè)兩階段方法：Ｒ－ＣＮＮ，　ＳＰＰ－Ｎｅｔ，　Ｆａｓｔ　Ｒ－ＣＮＮ，　Ｆａｓｔｅｒ　Ｒ－ＣＮＮ，　ＦＰＮ，　ＲＦＣＮ

５．４　目標(biāo)檢測(cè)單階段方法：　ＹＯＬＯ，　ＳＳＤ，　Ｒｅｔｉｎａ　Ｎｅｔ

５．５　十行代碼實(shí)現(xiàn)目標(biāo)檢測(cè)

第六章　生成式對(duì)抗網(wǎng)絡(luò)（ＧＡＮ）基礎(chǔ)

６．１　基礎(chǔ)：圖像生成、修復(fù)、風(fēng)格遷移、文字生成圖片

６．２　理論基礎(chǔ)：模型和目標(biāo)函數(shù)，全局最優(yōu)解，ｐｙｔｏｒｃｈ　實(shí)現(xiàn)

６．３　條件生成式對(duì)抗網(wǎng)絡(luò)（Ｃｏｎｄｉｔｉｏｎａｌ　ＧＡＮ）與　ｐｙｔｏｒｃｈ　實(shí)現(xiàn)

６．４　深度卷積生成式對(duì)抗網(wǎng)絡(luò)（Ｄｅｅｐ　Ｃｏｎｖｏｌｕｔｉｏｎａｌ　ＧＡＮ，ＤＣＧＡＮ）與　ｐｙｔｏｒｃｈ　實(shí)現(xiàn)

６．５　Ｗａｓｓｅｒｓｔｅｉｎ　ＧＡＮ　（ＷＧＡＮ）與　ｐｙｔｏｒｃｈ　實(shí)現(xiàn)

第七章　生成對(duì)抗網(wǎng)絡(luò)ＧＡＮ前沿

７．１　ＰｒｏｇｒｅｓｓｉｖｅＧＡＮ、Ｓｐｅｃｔｒａｌ　Ｎｏｒｍａｌｉｚａｔｉｏｎ　ＧＡＮ、Ｓｅｌｆ－Ａｔｔｅｎｔｉｏｎ　ＧＡＮ

７．２　以圖像翻譯為例，用　ｐｙｔｏｒｃｈ　實(shí)現(xiàn)　Ｐｉｘ２ｐｉｘ

７．３　以圖像翻譯為例，用　ｐｙｔｏｒｃｈ　實(shí)現(xiàn)　ＣｙｃｌｅＧＡＮ

第八章　前沿技術(shù)

８．１　深度強(qiáng)化學(xué)習(xí)：策略梯度法、Ｄｅｅｐ　Ｑ－Ｎｅｔｗｏｒｋ、Ａｃｔｏｒ－Ｃｒｉｔｉｃ方法

８．２　遷移學(xué)習(xí)：種類及代表性方法，域自適應(yīng)

８．３　圖卷積神經(jīng)網(wǎng)絡(luò)

８．４　深度學(xué)習(xí)可視化及解釋