窺一斑而知全豹：數(shù)理統(tǒng)計

人工智能必備的數(shù)理統(tǒng)計基礎(chǔ)，著重于抽象概念的解釋而非具體的數(shù)學公式，其要點如下：

數(shù)理統(tǒng)計的任務是根據(jù)可觀察的樣本反過來推斷總體的性質(zhì)；

推斷的工具是統(tǒng)計量，統(tǒng)計量是樣本的函數(shù)，是個隨機變量；

參數(shù)估計通過隨機抽取的樣本來估計總體分布的未知參數(shù)，包括點估計和區(qū)間估計；

假設(shè)檢驗通過隨機抽取的樣本來接受或拒絕關(guān)于總體的某個判斷，常用于估計機器學習模型的泛化錯誤率。

最優(yōu)化方法

人工智能必備的最優(yōu)化方法基礎(chǔ)，著重于抽象概念的解釋而非具體的數(shù)學公式，其要點如下：

通常情況下，最優(yōu)化問題是在無約束情況下求解給定目標函數(shù)的最小值；

在線性搜索中，確定尋找最小值時的搜索方向需要使用目標函數(shù)的一階導數(shù)和二階導數(shù)；

置信域算法的思想是先確定搜索步長，再確定搜索方向；

以人工神經(jīng)網(wǎng)絡(luò)為代表的啟發(fā)式算法是另外一類重要的優(yōu)化方法。

image萬物皆數(shù)，信息亦然：信息論

近年來的科學研究不斷證實，不確定性才是客觀世界的本質(zhì)屬性。換句話說，上帝還真就擲骰子。不確定性的世界只能使用概率模型來描述，正是對概率的刻畫促成了信息論的誕生。

信息論使用“信息熵”的概念，對單個信源的信息量和通信中傳遞信息的數(shù)量與效率等問題做出了解釋，并在世界的不確定性和信息的可測量性之間搭建起一座橋梁。

人工智能必備的數(shù)理統(tǒng)計基礎(chǔ)，著重于抽象概念的解釋而非具體的數(shù)學公式，其要點如下：

數(shù)理統(tǒng)計的任務是根據(jù)可觀察的樣本反過來推斷總體的性質(zhì)；

推斷的工具是統(tǒng)計量，統(tǒng)計量是樣本的函數(shù)，是個隨機變量；

參數(shù)估計通過隨機抽取的樣本來估計總體分布的未知參數(shù)，包括點估計和區(qū)間估計；

假設(shè)檢驗通過隨機抽取的樣本來接受或拒絕關(guān)于總體的某個判斷，常用于估計機器學習模型的泛化錯誤率。

明日黃花跡難尋：形式邏輯

人工智能必備的形式邏輯基礎(chǔ)，以及采用形式邏輯進行自動推理的基本原理，其要點如下：

如果將認知過程定義為對符號的邏輯運算，人工智能的基礎(chǔ)就是形式邏輯；

謂詞邏輯是知識表示的主要方法；

基于謂詞邏輯系統(tǒng)可以實現(xiàn)具有自動推理能力的人工智能；

不完備性定理向“認知的本質(zhì)是計算”這一人工智能的基本理念提出挑戰(zhàn)。