信息論是一門很安靜的學(xué)問。自1948年香農(nóng)發(fā)表劃時(shí)代的論文“通信的數(shù)學(xué)原理”以來,他開創(chuàng)的以信息度量體系、信源和信道模型和典型性作為基礎(chǔ)的范式就一直統(tǒng)治著這個(gè)理論研究的王國。
雖然歷經(jīng)了60余年,信息論研究由經(jīng)典的點(diǎn)到點(diǎn)模型拓展到多用戶場(chǎng)景,并產(chǎn)生了諸多問題上的演進(jìn),但是基本的數(shù)學(xué)方法卻一直保持了良好的一致性。從這個(gè)意義上來說,信息論有著自己的研究格調(diào)和“方法論”。作為統(tǒng)計(jì)數(shù)學(xué)的一個(gè)分支,信息論圈子更像一個(gè)數(shù)學(xué)研究者的社區(qū),學(xué)者們也在數(shù)學(xué)證明的精妙細(xì)節(jié)中體驗(yàn)著純學(xué)術(shù)的樂趣。