窺一斑而知全豹：數(shù)理統(tǒng)計(jì)
人工智能必備的數(shù)理統(tǒng)計(jì)基礎(chǔ)，著重于抽象概念的解釋而非具體的數(shù)學(xué)公式，其要點(diǎn)如下：
數(shù)理統(tǒng)計(jì)的任務(wù)是根據(jù)可觀察的樣本反過(guò)來(lái)推斷總體的性質(zhì)；
推斷的工具是統(tǒng)計(jì)量，統(tǒng)計(jì)量是樣本的函數(shù)，是個(gè)隨機(jī)變量；
參數(shù)估計(jì)通過(guò)隨機(jī)抽取的樣本來(lái)估計(jì)總體分布的未知參數(shù)，包括點(diǎn)估計(jì)和區(qū)間估計(jì)；
假設(shè)檢驗(yàn)通過(guò)隨機(jī)抽取的樣本來(lái)接受或拒絕關(guān)于總體的某個(gè)判斷，常用于估計(jì)機(jī)器學(xué)習(xí)模型的泛化錯(cuò)誤率。
最優(yōu)化方法
人工智能必備的最優(yōu)化方法基礎(chǔ)，著重于抽象概念的解釋而非具體的數(shù)學(xué)公式，其要點(diǎn)如下：
通常情況下，最優(yōu)化問(wèn)題是在無(wú)約束情況下求解給定目標(biāo)函數(shù)的最小值；
在線性搜索中，確定尋找最小值時(shí)的搜索方向需要使用目標(biāo)函數(shù)的一階導(dǎo)數(shù)和二階導(dǎo)數(shù)；
置信域算法的思想是先確定搜索步長(zhǎng)，再確定搜索方向；
以人工神經(jīng)網(wǎng)絡(luò)為代表的啟發(fā)式算法是另外一類(lèi)重要的優(yōu)化方法。
image萬(wàn)物皆數(shù)，信息亦然：信息論
近年來(lái)的科學(xué)研究不斷證實(shí)，不確定性才是客觀世界的本質(zhì)屬性。換句話說(shuō)，上帝還真就擲骰子。不確定性的世界只能使用概率模型來(lái)描述，正是對(duì)概率的刻畫(huà)促成了信息論的誕生。
信息論使用“信息熵”的概念，對(duì)單個(gè)信源的信息量和通信中傳遞信息的數(shù)量與效率等問(wèn)題做出了解釋?zhuān)⒃谑澜绲牟淮_定性和信息的可測(cè)量性之間搭建起一座橋梁。
人工智能必備的數(shù)理統(tǒng)計(jì)基礎(chǔ)，著重于抽象概念的解釋而非具體的數(shù)學(xué)公式，其要點(diǎn)如下：
數(shù)理統(tǒng)計(jì)的任務(wù)是根據(jù)可觀察的樣本反過(guò)來(lái)推斷總體的性質(zhì)；
推斷的工具是統(tǒng)計(jì)量，統(tǒng)計(jì)量是樣本的函數(shù)，是個(gè)隨機(jī)變量；
參數(shù)估計(jì)通過(guò)隨機(jī)抽取的樣本來(lái)估計(jì)總體分布的未知參數(shù)，包括點(diǎn)估計(jì)和區(qū)間估計(jì)；
假設(shè)檢驗(yàn)通過(guò)隨機(jī)抽取的樣本來(lái)接受或拒絕關(guān)于總體的某個(gè)判斷，常用于估計(jì)機(jī)器學(xué)習(xí)模型的泛化錯(cuò)誤率。
明日黃花跡難尋：形式邏輯
人工智能必備的形式邏輯基礎(chǔ)，以及采用形式邏輯進(jìn)行自動(dòng)推理的基本原理，其要點(diǎn)如下：
如果將認(rèn)知過(guò)程定義為對(duì)符號(hào)的邏輯運(yùn)算，人工智能的基礎(chǔ)就是形式邏輯；
謂詞邏輯是知識(shí)表示的主要方法；
基于謂詞邏輯系統(tǒng)可以實(shí)現(xiàn)具有自動(dòng)推理能力的人工智能；
不完備性定理向“認(rèn)知的本質(zhì)是計(jì)算”這一人工智能的基本理念提出挑戰(zhàn)。
