目錄
《大數據與數據科學專著系列》序
前言
第1章 經典極限理論 1
1.1 基本概念 1
1.1.1 概率空間 1
1.1.2 條件概率 3
1.1.3 獨立性 3
1.1.4 隨機變量及其分布 4
1.1.5 二維隨機向量 6
1.1.6 多維隨機向量 8
1.1.7 數學期望 9
1.1.8 方差 11
1.1.9 協方差 12
1.1.10 條件期望 13
1.1.11 特征函數 13
1.1.12 矩量法 14
1.1.13 隨機變量的收斂 15
1.1.14 經典極限定理 18
1.2 大數定律 18
1.3 中心極限定理 21
1.3.1 常用證明方法 22
1.3.2 Berry-Esséen界 23
1.3.3 Cramér中偏差 25
1.3.4 Edgeworth展開 25
1.4 弱不變原理 26
1.5 強不變原理 30
1.6 附注 31
1.7 習題 33
第2章 相依序列極限定理 39
2.1 相依隨機序列 39
2.1.1 鞅 39
2.1.2 平穩(wěn)序列 41
2.1.3 Markov鏈 41
2.2 平穩(wěn)隨機序列遍歷性 43
2.2.1 均值遍歷性 44
2.2.2 強遍歷性 47
2.3 鞅中心極限定理 49
2.3.1 平穩(wěn)鞅差序列 49
2.3.2 鞅差組列 51
2.4 鞅逼近方法 51
2.5 Markov鏈中心極限定理 60
2.6 線性過程中心極限定理 68
2.7 應用 74
2.8 附注 78
2.9 習題 80
第3章 Stein方法 82
3.1 Stein引理和Stein方程 82
3.2 獨立隨機變量的部分和 86
3.3 非線性統(tǒng)計量 94
3.3.1 非線性統(tǒng)計量的Berry-Esséen界 94
3.3.2 U-統(tǒng)計量 99
3.4 可交換對 100
3.4.1 基本概念和性質 101
3.4.2 L1界 102
3.4.3 Berry-Esséen界 111
3.5 非正態(tài)逼近 115
3.5.1 L1界 117
3.5.2 Berry-Esséen界 118
3.5.3 應用：Curie-Weiss模型 119
3.6 附注 122
3.7 習題 123
第4章 自正則化極限理論 128
4.1 依分布收斂 128
4.1.1 獨立同分布情形 129
4.1.2 獨立非同分布情形 132
4.2 Berry-Esséen界 132
4.3 自正則化大偏差定理 135
4.4 自正則化中偏差定理 141
4.5 Cramér型中偏差定理 146
4.6 附注 152
4.7 習題 153
第5章 高維協方差矩陣 155
5.1 經典多元統(tǒng)計分析理論 155
5.1.1 主成分分析 157
5.1.2 無線性分布 158
5.2 經驗譜分布 160
5.2.1 Mar？enko-Pastur分布 161
5.2.2 Stieltjes變換 162
5.2.3 經驗譜極限分布 165
5.3 線性特征根統(tǒng)計量的中心極限定理 168
5.4 極值特征根的漸近分布 174
5.4.1 極值特征根的幾乎必然收斂性 174
5.4.2 Tracy-Widom分布 177
5.4.3 極值特征根的漸近分布 182
5.5 有限秩擾動 184
5.6 附注 187
5.7 習題 192
第6章 隨機梯度下降法 197
6.1 強凸函數優(yōu)化 198
6.1.1 凸函數和強凸函數 198
6.1.2 簡單隨機梯度下降法 202
6.2 隨機逼近的收斂性 207
6.2.1 線性方程組求解 207
6.2.2 非線性問題求解 212
6.2.3 最小均方算法 214
6.3 非凸函數優(yōu)化 215
6.4 附注 222
6.5 習題 225
第7章 隨機復雜網絡 228
7.1 圖的基本概念 228
7.2 Erd？s-Rényi隨機圖 230
7.2.1 ER 隨機圖的演化和相變 232
7.2.2 ER 隨機圖頂點度的分布 237
7.3 偏好依附模型 241
7.4 復制模型 249
7.4.1 頂點的估計 251
7.4.2 頂點度的估計 253
7.5 譜半徑 254
7.6 半圓律 256
7.7 區(qū)塊檢測 260
7.8 附注 262
7.9 習題 264
第8章 分布式參數統(tǒng)計推斷 267
8.1 分布式一步估計法 268
8.1.1 線性平均估計 268
8.1.2 中位數估計 270
8.2 指數型分布族分布式參數估計 278
8.3 Newton-Raphson迭代法 285
8.3.1 分布式估計Newton型迭代法 285
8.3.2 分布式估計Newton型迭代法 288
8.4 加權分布式估計 298
8.5 附注 302
8.6 習題 304
第9章 Gauss逼近 310
9.1 Gauss 隨機向量部分量的最大值 319
9.2 獨立隨機向量部分和的最大分量 324
9.2.1 條件獨立分布逼近 324
9.2.2 強逼近 326
9.3 經驗過程Gauss逼近 329
9.4 應用 334
9.4.1 局部經驗過程 334
9.4.2 輪廓經驗過程 335
9.4.3 非Gauss模型的Dantzig選擇 337
9.4.4 偽發(fā)現選擇 340
9.5 附注 343
9.6 習題 348
附錄 常用概率不等式 353
A 基本概率不等式 353
B 獨立隨機變量部分和的概率不等式 355
C 鞅不等式 357
D 其他不等式 359
參考文獻 363
《大數據與數據科學專著系列》已出版書目 375