|
|
|
本書全面系統地介紹了統計學習的主要方法，共分兩篇。篇系統介紹監督學習的各種重要方法，包括決策樹、感知機、支持向量機、很大熵模型與邏輯斯諦回歸、推進法、多類分類法、EM演算法、隱瑪律科夫模型和條件隨機場等；第二篇介紹無監督學習，包括聚類、奇異值、主成分分析、潛在語義分析等。兩篇中，除概論和總結外，每章介紹一或二種方法。
李航，男，畢業于日本京都大學電氣電子工程系，日本東京大學獲得電腦科學博士學位。北京大學、南京大學兼職教授。曾任日本NEC公司中央研究所研究員，微軟亞洲研究院高級研究員與主任研究員、華為技術有限公司諾亞方舟實驗室主任。現任今日頭條人工智慧實驗室主任。
第一篇監督學習
第二篇 無監督學習
第13章 無監督學習概論
13.1.1無監督學習基本原理
13.1.2基本問題
13.1.3機器學習三要素
13.1.4無監督學習方法
第14章 聚類方法
14.1聚類的基本概念
14.1.1相似度或距離
14.1.2類或簇
14.1.3類與類之間的距離
14.2層次聚類
14.3k均值聚類
14.3.1模型
14.3.2策略
14.3.3演算法
14.3.4演算法特點
本章概要
繼續閱讀
習題
參考文獻
第15章奇異值分解
15.1奇異值分解的定義與性質
15.1.1定義與定理
15.1.2緊奇異值分解與截斷奇異值分解
15.1.3幾何解釋
15.1.4主要性質
15.2奇異值分解的計算
15.3奇異值分解與矩陣近似
15.3.1弗羅貝尼烏斯範數
15.3.2矩陣的最優近似
15.3.3矩陣的外積展開式
本章概要
繼續閱讀
習題
參考文獻
第16章主成分分析
16.1總體主成分分析
16.1.1基本想法
16.1.2定義和匯出
16.1.3主要性質
16.1.4主成分的個數
16.1.5規範化變數的總體主成分
16.2樣本主成分分析
16.2.1樣本主成分的定義和性質
16.2.2相關矩陣的特徵值分解演算法
16.2.3資料局正的奇異值分解演算法
本章概要
繼續閱讀
習題
參考文獻
第17章潛在語義分析
17.1單詞向量空間與話題向量空間
17.1.1單詞向量空間
17.1.2話題向量空間
17.2潛在語義分析演算法
17.2.1矩陣奇異值分解演算法
17.2.2例子
17.3非負矩陣分解演算法
17.3.1非負矩陣分解
17.3.2潛在語義分析模型
17.3.3非負矩陣分解的形式化
17.3.4演算法
本章概要
繼續閱讀
習題
參考文獻
第18章概率潛在語義分析
18.1概率潛在語義分析模型
18.1.1基本想法
18.1.2生成模型
18.1.3共現模型
18.1.4模型性質
18.2概率潛在語義分析的演算法
本章概要
繼續閱讀
習題
參考文獻
第19章瑪律可夫鏈蒙特卡羅法
19.1蒙特卡羅法
19.1.1隨機抽樣
19.1.2數學期望估計
19.1.3積分計算
19.2瑪律可夫鏈
19.2.1基本定義
19.2.2離散狀態瑪律可夫鏈
19.2.3連續狀態瑪律可夫鏈
19.2.4瑪律可夫鏈的性質
19.3瑪律可夫鏈蒙特卡羅法
19.3.1基本想法
19.3.2基本步驟
19.3.3瑪律可夫鏈蒙特卡羅法與統計學習
19.4Metropolis-Hastings演算法
19.4.1基本原理
19.4.2Metropolis-Hastings演算法
19.4.3單分量Metropolis-Hastings演算法
19.5吉布斯抽樣
19.5.1基本原理
19.5.2吉布斯抽樣演算法
19.5.3抽樣計算
本章概要
繼續閱讀
習題
參考文獻
第20章潛在狄利克雷分配
20.1狄利克雷分佈
20.1.1分佈定義
20.1.2共軛先驗
20.2潛在狄利克雷分配模型
20.2.1基本想法
20.2.2模型定義
20.2.3概率圖模型
20.2.4隨機變數序列的可交換性
20.2.5概率公式
20.3LDA的吉布斯抽樣演算法
20.3.1基本想法
20.3.2演算法的主要部分
20.3.3演算法的後處理
20.3.4演算法
20.4LDA的變分EM演算法
20.4.1變分推理
20.4.2變分EM演算法
20.4.3演算法推導
20.4.4演算法總結
本章概要
繼續閱讀
習題
參考文獻
第21章PageRank演算法
21.1PageRank的定義
21.1.1基本想法
21.1.2有向圖和隨機遊走模型
21.1.3PageRank的基本定義
21.1.4PageRank的一般定義
21.2PageRank的計算
21.2.1反覆運算演算法
21.2.2冪法
21.3.3代數演算法
本章概要
繼續閱讀
習題
參考文獻
第22章無監督學習方法總結
22.1無監督學習方法的關係和特點
22.1.1各種方法之間的關係
22.1.2無監督學習方法
22.1.3基礎及其學習方法
22.2話題模型之間的關係和特點
參考文獻
附錄A梯度下降法
附錄B牛頓法和擬牛頓法
附錄C拉格朗日對偶性
附錄D矩陣的基本子空間
附錄EKL散度的定義和狄利克雷分佈的性質
索引
