窺一斑而知全豹：數理統計

人工智能必備的數理統計基礎，著重于抽象概念的解釋而非具體的數學公式，其要點如下：

數理統計的任務是根據可觀察的樣本反過來推斷總體的性質；

推斷的工具是統計量，統計量是樣本的函數，是個隨機變量；

參數估計通過隨機抽取的樣本來估計總體分布的未知參數，包括點估計和區(qū)間估計；

假設檢驗通過隨機抽取的樣本來接受或拒絕關于總體的某個判斷，常用于估計機器學習模型的泛化錯誤率。

最優(yōu)化方法

人工智能必備的最優(yōu)化方法基礎，著重于抽象概念的解釋而非具體的數學公式，其要點如下：

通常情況下，最優(yōu)化問題是在無約束情況下求解給定目標函數的最小值；

在線性搜索中，確定尋找最小值時的搜索方向需要使用目標函數的一階導數和二階導數；

置信域算法的思想是先確定搜索步長，再確定搜索方向；

以人工神經網絡為代表的啟發(fā)式算法是另外一類重要的優(yōu)化方法。

image萬物皆數，信息亦然：信息論

近年來的科學研究不斷證實，不確定性才是客觀世界的本質屬性。換句話說，上帝還真就擲骰子。不確定性的世界只能使用概率模型來描述，正是對概率的刻畫促成了信息論的誕生。

信息論使用“信息熵”的概念，對單個信源的信息量和通信中傳遞信息的數量與效率等問題做出了解釋，并在世界的不確定性和信息的可測量性之間搭建起一座橋梁。

人工智能必備的數理統計基礎，著重于抽象概念的解釋而非具體的數學公式，其要點如下：

數理統計的任務是根據可觀察的樣本反過來推斷總體的性質；

推斷的工具是統計量，統計量是樣本的函數，是個隨機變量；

參數估計通過隨機抽取的樣本來估計總體分布的未知參數，包括點估計和區(qū)間估計；

假設檢驗通過隨機抽取的樣本來接受或拒絕關于總體的某個判斷，常用于估計機器學習模型的泛化錯誤率。

明日黃花跡難尋：形式邏輯

人工智能必備的形式邏輯基礎，以及采用形式邏輯進行自動推理的基本原理，其要點如下：

如果將認知過程定義為對符號的邏輯運算，人工智能的基礎就是形式邏輯；

謂詞邏輯是知識表示的主要方法；

基于謂詞邏輯系統可以實現具有自動推理能力的人工智能；

不完備性定理向“認知的本質是計算”這一人工智能的基本理念提出挑戰(zhàn)。