初识隐马尔可夫模型

1. 问题背景与定位

在机器学习中，我们经常需要处理序列数据。比如，一段文字、一段语音、一段时间内的股票价格，或者一段基因序列。对于这些序列，我们常常希望能够做一些事情：

• 标注 (Tagging): 给序列中的每一个元素打上一个标签。例如，给一句话中的每个词标注其词性（名词、动词、形容词等）。
• 识别 (Recognition): 根据一段序列，判断其整体代表什么。例如，根据一段语音信号，识别出是哪句话。
• 预测 (Prediction): 根据已有的序列，预测下一个元素可能是什么。例如，根据过去几天的天气，预测明天的天气。

一个直接的想法是，序列中的当前元素可能与它之前的元素存在某种关联。比如，一个“动词”后面很可能会跟一个“名词”。这种关联性，我们可以用马尔可夫链 (Markov Chain) 来建模。

马尔可夫链描述了一个系统在一系列状态之间转换的过程，其核心思想是“未来只依赖于现在”。也就是说，系统下一个时刻的状态，仅仅取决于它当前的状态，而与过去的状态无关。

举个例子：天气变化 假设我们所在城市的天气只有三种状态：{晴天, 多云, 下雨}。我们可以观察到每天的天气变化，这就是一个可观测的马尔可夫链。

• 如果今天“下雨”，明天有 60% 的概率继续“下雨”，有 25% 的概率转为“多云”，有 15% 的概率转为“晴天”。
• 这种状态转移是可见的、可直接观测的。

现在，我们让问题变得复杂一点： 想象一下，你有一个朋友住在很远的城市，你无法直接获取他所在城市的天气预报。但是，你每天和他通电话，他会告诉你他今天做了什么活动，比如：{散步, 购物, 宅家}。

现在，你的任务是：通过他每天的活动序列，来推断他所在城市的天气变化序列。

在这个问题中：

• 天气状态序列 ({晴天, 多云, 下雨}, …)，是你无法直接观测的，它是“隐藏 (Hidden)”的。
• 活动状态序列 ({散步, 购物, 宅家}, …)，是你可以观测到的。

我们有理由相信，天气会影响他的活动。比如，“晴天”他更可能去“散步”，“下雨”他更可能“宅家”。同时，天气本身的变化也遵循着某种规律（比如，晴天之后大概率还是晴天）。

为了对这类“隐藏状态序列”产生“观测序列”的问题进行数学建模，隐马尔可夫模型 (Hidden Markov Model, HMM) 应运而生。它正是为了解决这类问题而设计的强大工具，广泛应用于语音识别、自然语言处理、生物信息学等领域。

2. 核心概念

HMM 的核心思想可以想象成一个 “幕后玩家” 的游戏。

想象一个房间里有一位你看不见的“幕后玩家”。他面前有几个不同的罐子（比如3个），每个罐子里都装有不同颜色和比例的彩球。

这个游戏按以下步骤进行：

1. 初始选择: 游戏开始时，“幕后玩家”根据一个初始的概率分布，选择其中一个罐子。比如，他有 50% 的概率选择1号罐，30% 选择2号罐，20% 选择3号罐。
2. 抽球并展示: 他从选中的罐子里随机摸出一个球，把球的颜色展示给你看，然后把球放回原罐。你只能看到球的颜色，但不知道是从哪个罐子里抽出来的。
3. 切换罐子: “幕后玩家”根据一套固定的“切换规则”，决定下一个要用的罐子。这个规则是概率性的。例如，如果他这次用的是1号罐，那他下一次有70%的概率继续用1号罐，有20%的概率换到2号罐，有10%的概率换到3号罐。
4. 重复: 不断重复第2步和第3步（抽球并展示、切换罐子）。

经过一段时间后，你手里会得到一个颜色的序列，比如：{红, 蓝, 蓝, 红, 黄, …}。

在这个比喻中：

• 隐藏状态 (Hidden State): “幕后玩家”选择的罐子。你无法直接看到他每次用的是哪个罐子。罐子的序列 {罐1, 罐1, 罐2, …} 就是一个隐藏的马尔可夫链。
• 观测结果 (Observation): 你看到的球的颜色。这是你能直接获取到的信息。颜色的序列 {红, 蓝, 蓝, …} 就是观测序列。

HMM 的精髓在于它有两条并行的线索和一个关键的联系：

1. 隐藏的状态链: 一条你看不到的、符合马尔可夫性质的状态转移链（罐子的切换）。
2. 可观测的输出链: 一条你能看到的、由隐藏状态“生成”的观测结果链（球的颜色）。
3. 生成关系: 每一个隐藏状态都对应着一个产生不同观测结果的概率分布（每个罐子里不同颜色球的比例）。

HMM 模型就是对这个过程的数学化描述。

3. 数学基础与模型定义

为了精确地描述 HMM，我们需要引入一些数学符号和定义。

一个 HMM 模型可以由两组集合和三组参数来完全定义。

两组集合:

• 状态集合 (Set of States) $Q$: 所有可能的隐藏状态的集合。
  • $Q=\{q_1,q_2,\dots ,q_N\}$
  • $N$ 是可能的状态总数。
  • 在天气例子中，$Q=\{\text{晴天, 多云, 下雨}\}$，$N=3$。
  • 在罐子例子中，$Q=\{\text{罐1, 罐2, 罐3}\}$，$N=3$。
• 观测集合 (Set of Observations) $V$: 所有可能的观测结果的集合。
  • $V=\{v_1,v_2,\dots ,v_M\}$
  • $M$ 是可能的观测结果总数。
  • 在天气例子中，$V=\{\text{散步, 购物, 宅家}\}$，$M=3$。
  • 在罐子例子中，$V=\{\text{红球, 黄球, 蓝球}\}$，$M=3$。

模型的核心假设:

在定义参数之前，我们必须明确 HMM 依赖于两个非常重要的基本假设。这两个假设极大地简化了模型的数学处理。

1. 齐次马尔可夫性假设 (Homogeneous Markov Assumption) 这个假设作用于隐藏状态链。它指出，任意时刻 $t$ 的隐藏状态，只受其前一时刻 $t-1$ 的隐藏状态影响，与更早之前的状态和观测都无关。

用数学语言表达就是：

$$P(q_t|q_{t-1},o_{t-1},q_{t-2},o_{t-2},\dots ,q_1,o_1)=P(q_t|q_{t-1})$$

2. 观测独立性假设 (Observation Independence Assumption) 这个假设作用于观测结果。它指出，任意时刻 $t$ 的观测结果，只受当前时刻 $t$ 的隐藏状态影响，与其他任何时刻的状态或观测都无关。

用数学语言表达就是：

$$P(o_t|q_t,q_{t-1},o_{t-1},q_{t-2},o_{t-2},\dots ,q_1,o_1)=P(o_t|q_t)$$

这两个假设是 HMM 的基石。虽然在现实世界中它们可能是过于简化的近似，但正是这种简化使得 HMM 成为一个强大且可计算的模型。

HMM 的三要素：模型参数 $\lambda$

有了以上定义和假设，一个具体的 HMM 模型就可以由下面三个参数来描述，我们通常将它们打包成一个元组 $\lambda =(A,B,\pi )$。

1. 初始状态概率分布 (Initial State Probability Distribution) $\pi$ 这是一个向量，表示在序列开始时（时刻 $t=1$），系统处于各个隐藏状态的概率。

$$\pi =({\pi }_i),\text{其中}{\pi }_i=P(q_1=s_i)$$

• ${\pi }_i$ 是初始时刻处于状态 $s_i$ 的概率。
• 所有 ${\pi }_i$ 的和必须为 1: ${\sum }_{i=1}^N{\pi }_i=1$。
• 在罐子例子中，$\pi =(0.5,0.3,0.2)$，表示开始时有50%概率选1号罐，30%概率选2号罐，20%概率选3号罐。

2. 状态转移概率矩阵 (State Transition Probability Matrix) $A$ 这是一个 $N\times N$ 的矩阵，描述了隐藏状态之间转移的概率。

$$A=[a_{ij}],\text{其中}{a}_{ij}=P(q_{t+1}=s_j|q_t=s_i)$$

• $a_{ij}$ 表示在当前时刻 $t$ 处于状态 $s_i$ 的条件下，在下一时刻 $t+1$ 转移到状态 $s_j$ 的概率。
• 矩阵的每一行之和必须为 1: ${\sum }_{j=1}^N{a}_{ij}=1$。
• 在天气例子中，如果今天（状态$s_i$）是“下雨”，明天（状态$s_j$）是“晴天”的概率就是 $a_{\text{下雨, 晴天}}$。

3. 观测概率矩阵 (Observation Probability Matrix) $B$ 这是一个 $N\times M$ 的矩阵，也称为发射概率矩阵 (Emission Probability Matrix)。它描述了在某个隐藏状态下，生成特定观测结果的概率。

$$B=[b_j(k)],\text{其中}{b}_j(k)=P(o_t=v_k|q_t=s_j)$$

• $b_j(k)$ 表示在当前时刻 $t$ 处于隐藏状态 $s_j$ 的条件下，观测到结果 $v_k$ 的概率。
• 矩阵的每一行（对应一个隐藏状态）之和必须为 1: ${\sum }_{k=1}^M{b}_j(k)=1$。
• 在天气例子中，$b_{\text{晴天}}(\text{散步})$ 表示在“晴天”这个隐藏状态下，朋友去“散步”的概率。

一旦这三个参数 $\lambda =(A,B,\pi )$ 确定了，一个隐马尔可夫模型就完全确定了。它可以用来生成观测序列，或者解释一个已有的观测序列。

4. 经典实例解析

理论是抽象的，让我们通过两个例子，把上面所有的符号和定义对应到具体问题里去。

4.1 实例一：三硬币模型

这是一个非常直观的例子，这个例子我们之前在初识EM算法也提到了一个很类似的。这个例子能清晰地展示 HMM 的建模过程。

问题描述: 假设有三枚硬币：一枚特殊的偏置硬币 (Biased Coin) 和两枚正常的公平硬币 (Fair Coins)，我们称它们为硬币A和硬币B。

游戏规则如下：

1. 先抛掷这枚特殊的偏置硬币。如果结果为正面 (Heads)，则选择硬币A；如果结果为反面 (Tails)，则选择硬币B。
2. 然后，抛掷被选中的那枚硬币（硬币A或硬币B），并记录其结果（正面或反面）。
3. 重复以上过程，你将得到一串由“正面”和“反面”组成的观测序列。

在这个游戏中，你无法看到每次是哪枚硬币（A或B）被选中，你只能看到每次抛掷的结果。

用 HMM 的语言来建模：

• 隐藏状态 $Q$: 被选中的硬币。

  • $Q=\{\text{硬币A, 硬币B}\}$，所以 $N=2$。

• 观测结果 $V$: 抛掷硬币的结果。

  • $V=\{\text{正面(H), 反面(T)}\}$，所以 $M=2$。

现在，我们来确定 HMM 的三要素 $\lambda =(A,B,\pi )$。

• 初始状态概率分布 $\pi$: 这个模型没有明确的“初始”，因为每次选择都依赖于偏置硬币。但我们可以认为，在任何一次抛掷前，选择硬币A或硬币B的概率是由偏置硬币决定的。假设这枚偏置硬币出现正面的概率为 $p$，出现反面的概率为 $1-p$。那么，选择硬币A的概率就是 $p$，选择硬币B的概率就是 $1-p$。我们可以将其视为每次选择的“初始”概率。如果假设偏置硬币也是公平的，即 $p=0.5$，那么：

  $$\pi =P(\text{选硬币A}),P(\text{选硬币B})=(0.5,0.5)$$

• 状态转移概率矩阵 $A$: 这个模型的特殊之处在于，下一次选择哪个硬币，与这一次选择的硬币完全无关，而是重新由偏置硬币决定。

  • 无论当前是硬币A还是硬币B，下一次选择硬币A的概率都是 $p$。
  • 无论当前是硬币A还是硬币B，下一次选择硬币B的概率都是 $1-p$。 假设 $p=0.5$，状态转移矩阵 $A$ 就是：
  $$A=\left(\begin{array}{cc}P(\text{下次A}|\text{当前A})& P(\text{下次B}|\text{当前A})\\ P(\text{下次A}|\text{当前B})& P(\text{下次B}|\text{当前B})\end{array}\right)=\left(\begin{array}{cc}0.5& 0.5\\ 0.5& 0.5\end{array}\right)$$

• 观测概率矩阵 $B$: 这描述了在选定某枚硬币后，抛出正面或反面的概率。假设硬币A是完全公平的，而硬币B有些不公平。

  • 硬币A: $P(\text{H}|\text{A})=0.5,P(\text{T}|\text{A})=0.5$
  • 硬币B: $P(\text{H}|\text{B})=0.8,P(\text{T}|\text{B})=0.2$ (例如) 于是，观测概率矩阵 $B$ 就是：
  $$B=\left(\begin{array}{cc}P(\text{H}|\text{A})& P(\text{T}|\text{A})\\ P(\text{H}|\text{B})& P(\text{T}|\text{B})\end{array}\right)=\left(\begin{array}{cc}0.5& 0.5\\ 0.8& 0.2\end{array}\right)$$

通过这个例子，我们把一个看似复杂的游戏，清晰地解构成了 HMM 的三个核心参数。

4.2 实例二：盒子和球模型

这是 HMM 最经典的教科书例子，与我们最初的“幕后玩家”比喻完全一致。

问题描述: 假设有4个盒子，每个盒子里都装有红色和白色两种颜色的球，具体数量如下表所示（总数均为10）：

盒子编号	1	2	3	4
红球数	5	3	6	8
白球数	5	7	4	2

抽样过程如下：

1. 初始: 从4个盒子中以等概率（1/4）随机选一个盒子。
2. 抽球: 从这个盒子里随机抽一个球，记录其颜色，然后放回。
3. 转移: 然后，从当前盒子转移到下一个盒子。转移规则如下：
   • 如果当前在盒子1，下次必定转移到盒子2。
   • 如果当前在盒子2或3，下次各有0.4的概率转移到左边的盒子，0.6的概率转移到右边的盒子。
   • 如果当前在盒子4，下次各有0.5的概率停留在盒子4或转移到盒子3。
4. 重复: 重复第2和第3步，直到获得一个观测序列，例如：O = (红, 白, 红, 红, 白)。

用 HMM 的语言来建模：

• 隐藏状态 $Q$: 盒子的编号。

  • $Q=\{\text{盒子1, 盒子2, 盒子3, 盒子4}\}$，所以 $N=4$。

• 观测结果 $V$: 球的颜色。

  • $V=\{\text{红, 白}\}$，所以 $M=2$。

现在，我们来确定 HMM 的三要素 $\lambda =(A,B,\pi )$。

• 初始状态概率分布 $\pi$: 根据规则1，开始时等概率选择4个盒子中的一个。

  $$\pi =(P(q_1=1),P(q_1=2),P(q_1=3),P(q_1=4))=(0.25,0.25,0.25,0.25)$$

• 状态转移概率矩阵 $A$: 这是一个 $4\times 4$ 矩阵，根据规则3来构建。$a_{ij}$ 是从盒子 $i$ 转移到盒子 $j$ 的概率。

  • 从盒子1: 100%到盒子2。 $a_{11}=0,a_{12}=1,a_{13}=0,a_{14}=0$
  • 从盒子2: 40%到盒子1，60%到盒子3。$a_{21}=0.4,a_{22}=0,a_{23}=0.6,a_{24}=0$
  • 从盒子3: 40%到盒子2，60%到盒子4。$a_{31}=0,a_{32}=0.4,a_{33}=0,a_{34}=0.6$
  • 从盒子4: 50%到盒子3，50%留在盒子4。$a_{41}=0,a_{42}=0,a_{43}=0.5,a_{44}=0.5$ 所以，状态转移矩阵 $A$ 为：
  $$A=\left(\begin{array}{cccc}0& 1& 0& 0\\ 0.4& 0& 0.6& 0\\ 0& 0.4& 0& 0.6\\ 0& 0& 0.5& 0.5\end{array}\right)$$

• 观测概率矩阵 $B$: 这是一个 $4\times 2$ 矩阵，表示在每个盒子（隐藏状态）中，摸出红球或白球（观测结果）的概率。

  • 盒子1: 5红5白 → $P(\text{红}|1)=0.5,P(\text{白}|1)=0.5$
  • 盒子2: 3红7白 → $P(\text{红}|2)=0.3,P(\text{白}|2)=0.7$
  • 盒子3: 6红4白 → $P(\text{红}|3)=0.6,P(\text{白}|3)=0.4$
  • 盒子4: 8红2白 → $P(\text{红}|4)=0.8,P(\text{白}|4)=0.2$ 所以，观测概率矩阵 $B$ 为：
  $$B=\left(\begin{array}{cc}P(\text{红}|\text{盒1})& P(\text{白}|\text{盒1})\\ P(\text{红}|\text{盒2})& P(\text{白}|\text{盒2})\\ P(\text{红}|\text{盒3})& P(\text{白}|\text{盒3})\\ P(\text{红}|\text{盒4})& P(\text{白}|\text{盒4})\end{array}\right)=\left(\begin{array}{cc}0.5& 0.5\\ 0.3& 0.7\\ 0.6& 0.4\\ 0.8& 0.2\end{array}\right)$$

通过这个例子，我们可以看到，任何一个遵循了 HMM 两个核心假设的序列生成过程，都可以被精确地编码为 $\lambda =(A,B,\pi )$ 这三组参数。