窺一斑而知全豹：數(shù)理統(tǒng)計(jì)

人工智能必備的數(shù)理統(tǒng)計(jì)基礎(chǔ)，著重于抽象概念的解釋而非具體的數(shù)學(xué)公式，其要點(diǎn)如下：

數(shù)理統(tǒng)計(jì)的任務(wù)是根據(jù)可觀察的樣本反過(guò)來(lái)推斷總體的性質(zhì)；

推斷的工具是統(tǒng)計(jì)量，統(tǒng)計(jì)量是樣本的函數(shù)，是個(gè)隨機(jī)變量；

參數(shù)估計(jì)通過(guò)隨機(jī)抽取的樣本來(lái)估計(jì)總體分布的未知參數(shù)，包括點(diǎn)估計(jì)和區(qū)間估計(jì)；

假設(shè)檢驗(yàn)通過(guò)隨機(jī)抽取的樣本來(lái)接受或拒絕關(guān)于總體的某個(gè)判斷，常用于估計(jì)機(jī)器學(xué)習(xí)模型的泛化錯(cuò)誤率。

最優(yōu)化方法

人工智能必備的最優(yōu)化方法基礎(chǔ)，著重于抽象概念的解釋而非具體的數(shù)學(xué)公式，其要點(diǎn)如下：

通常情況下，最優(yōu)化問(wèn)題是在無(wú)約束情況下求解給定目標(biāo)函數(shù)的最小值；

在線性搜索中，確定尋找最小值時(shí)的搜索方向需要使用目標(biāo)函數(shù)的一階導(dǎo)數(shù)和二階導(dǎo)數(shù)；

置信域算法的思想是先確定搜索步長(zhǎng)，再確定搜索方向；

以人工神經(jīng)網(wǎng)絡(luò)為代表的啟發(fā)式算法是另外一類重要的優(yōu)化方法。

image萬(wàn)物皆數(shù)，信息亦然：信息論

近年來(lái)的科學(xué)研究不斷證實(shí)，不確定性才是客觀世界的本質(zhì)屬性。換句話說(shuō)，上帝還真就擲骰子。不確定性的世界只能使用概率模型來(lái)描述，正是對(duì)概率的刻畫(huà)促成了信息論的誕生。

信息論使用“信息熵”的概念，對(duì)單個(gè)信源的信息量和通信中傳遞信息的數(shù)量與效率等問(wèn)題做出了解釋，并在世界的不確定性和信息的可測(cè)量性之間搭建起一座橋梁。

人工智能必備的數(shù)理統(tǒng)計(jì)基礎(chǔ)，著重于抽象概念的解釋而非具體的數(shù)學(xué)公式，其要點(diǎn)如下：

數(shù)理統(tǒng)計(jì)的任務(wù)是根據(jù)可觀察的樣本反過(guò)來(lái)推斷總體的性質(zhì)；

推斷的工具是統(tǒng)計(jì)量，統(tǒng)計(jì)量是樣本的函數(shù)，是個(gè)隨機(jī)變量；

參數(shù)估計(jì)通過(guò)隨機(jī)抽取的樣本來(lái)估計(jì)總體分布的未知參數(shù)，包括點(diǎn)估計(jì)和區(qū)間估計(jì)；

假設(shè)檢驗(yàn)通過(guò)隨機(jī)抽取的樣本來(lái)接受或拒絕關(guān)于總體的某個(gè)判斷，常用于估計(jì)機(jī)器學(xué)習(xí)模型的泛化錯(cuò)誤率。

明日黃花跡難尋：形式邏輯

人工智能必備的形式邏輯基礎(chǔ)，以及采用形式邏輯進(jìn)行自動(dòng)推理的基本原理，其要點(diǎn)如下：

如果將認(rèn)知過(guò)程定義為對(duì)符號(hào)的邏輯運(yùn)算，人工智能的基礎(chǔ)就是形式邏輯；

謂詞邏輯是知識(shí)表示的主要方法；

基于謂詞邏輯系統(tǒng)可以實(shí)現(xiàn)具有自動(dòng)推理能力的人工智能；

不完備性定理向“認(rèn)知的本質(zhì)是計(jì)算”這一人工智能的基本理念提出挑戰(zhàn)。