| 方法 | 理论基础 | 关键思想 |
|---|---|---|
| 贝叶斯网络 (Bayesian Network) | 条件独立性与贝叶斯定理 | 通过有向无环图（DAG）表达随机变量间的依赖关系，计算联合分布与推断。 |
| 高斯回归 (Gaussian Process Regression, GPR) | 高斯过程与核函数 | 假设函数空间服从高斯分布，用核函数刻画输入间相关性，从而进行非参数回归。 |
| 回归分析 (Regression Analysis) | 极大似然与最小二乘 | 直接建模输入与输出之间的期望关系，重点在参数估计与置信区间分析。 |
| 隐马尔可夫模型 (HMM) | 马尔可夫链 + 概率生成模型 | 观测序列由隐藏状态控制，状态转移服从马尔可夫性。 |
| 马尔可夫链 (MK, Markov Chain) | 状态转移概率 | 系统下一个状态只依赖当前状态，是 HMM 的基础形式。 |
-
贝叶斯网络 是一个更一般的框架，可以看作 所有其他概率模型的结构化特例。 例如：HMM 就是一个时间序列版的贝叶斯网络。
-
HMM 与马尔可夫链：
- 马尔可夫链：只有状态；
- HMM：加入观测层，状态不可见。 → 在语音识别、时序信号、序列分割等问题常用。
-
高斯回归与回归分析：
- 回归分析是“点估计”；
- 高斯回归是“分布估计”，能量化预测不确定性。 → 在小样本、非线性问题中表现更优。
三、适用场景对比
| 应用方向 | 典型模型 | 核心特征 |
|---|---|---|
| 因果推断与结构学习 | 贝叶斯网络 | 可建模变量间条件依赖，推断“谁影响谁” |
| 非线性函数拟合 | 高斯回归 | 内置不确定性评估，适合小样本建模 |
| 参数估计与预测 | 回归分析 | 可解释性强，适合线性与统计检验 |
| 时间序列识别 | HMM | 序列结构 + 隐变量，语音/手势/状态识别 |
| 状态转移建模 | 马尔可夫链 | 模拟系统状态演化，如排队、生态或传播模型 |
一个不错的高斯回归数学原理：https://distill.pub/2019/visual-exploration-gaussian-processes/