隐马尔科夫模型HMM(Hidden Markov Model)
对HMM的概念和应用有了一个初步的了解。
1、什么是隐马尔科夫模
为了寻找某一事物在一段时间内的变化规律,分析一个系统,希望预测的状态是隐藏在表象之后的,并不是我们观察到的现象。比如,通过观察植物海藻的表象来观测天气的变化状态。这里存在两个状态,观察状态(海藻的状态),隐状态(天气的状态)。马尔科夫过程是当前的状态只与前n个状态有关。这被称作n阶马尔科夫模型。最简单的模型就当n=1时的一阶模型。就当前的状态只与前一状态有关。
2、马尔可夫模型的应用
把隐马尔科夫模型应用于语音识别。就是如何通过给出的语音信号预测出原来的文字信息。在这里,语音信号就是观察状态,识别出的文字就是隐含状态。
隐马尔科夫模型在计算语言学中有着广泛的应用。例如隐马尔科夫模型在词类自动标注中的应用。
隐马尔可夫过程是一个双重随机过程,其中一重随机过程不能直接观察到,通过状态转移概率矩阵描述。另一重随机过程输出可以观察的观察符号,这由输出概率来定义。
3、隐马尔科夫主要有三个作用
(1) (估算问题)给定观察序列O=
如何有效地计算出观察序列的概率
(2) (解码问题)给定观察序列O=
,如何寻找一个状态转换序列q=
使得该状态转换序列最有可能产生上述观察序列。
(3) 在模型参数未知或不准确的情况下,如何根据序列O=
求得模型参数或调整模型参数,即如何确定一组模型参数,使得观察序列的概率最大?
4、HMM模型是一个五元组模型 ( S, V, A,B, π )。
S是一组隐状态的集合;(比如:天气(晴,多云,阴))
V是一组观察状态的集合;(比如:海藻(湿,干))
A是隐状态之间的转移矩阵N行N列;(一阶马尔可夫模型的当前状态只与前一状态有关)
B是混淆矩阵,是隐状态与观察状态之间关系的概率
Π是初始隐状态的概率
最终得到隐马尔科夫链的概率
举例。
状态转移矩阵
昨天的天气
今天的天气
晴
多云
阴
晴
0.5
0.25
0.25
多云
0.375
0.125
0.375
阴
0.125
0.675
0.375
混淆矩阵
天气的变化
海藻的变化
晴
0.60
0.20
0.15
0.05
多云
0.25
0.25
0.25
0.25
阴
0.05
0.10
0.35
0.50
初始概率
晴
多云
阴
0.63
0.17
0.20
估计“潮湿”-“微干”-“干旱”出现的概率:
第一天潮湿,各个天气状态所对应的海藻的状态的概率:
A1(晴)=0.63*0.6=0.378
A1(多云)=0.17*0.25=0.0425;
A1(阴)=0.2*0.05=0.01;
第二天微干,
A2(晴)=0.15*(0.5*0.378+0.375*0.0425+0.01*0.125)=0.030928125
A2(多云)=0.25*(0.25*0.378+0.125*0.0425+0.675*0.01)=0.026640625
A2(阴)=0.35*(0.25*0.378+0.375*0.0425+0.01*0.375)=0.039965625
第三天:干旱,
A3(晴)=0.05*(0.5*0.030928125+0.375*0.026640625+0.039965625
*0.125)=0.001525
A3(多云)=0.25*(0.25*0.030928125+0.125*0.026640625+0.039965625
*0.675)=0.0095
A3(阴)=0. 5*(0.25*0.030928125+0.375*0.026640625+0.039965625
*0.375)=0.01635
“潮湿”-“微干”-“干旱”出现的概率=0.001525+0.0095+0.01635=0.027375
6、马尔可夫模型解码问题---向后算法(Backward Algorithm)
向后算法
根据一个给定的HMM模型,根据观察状态序列找到产生这一序列的潜在的隐含状态序列。
观察状态为“潮湿”-“微干”-“干旱”的情况下海藻的状态组合最可能是哪种组合?
最初的状态第一天潮湿的路径
A1(晴)=0.63*0.6=0.378
A1(多云)=0.17*0.25=0.0425;
A1(阴)=0.2*0.05=0.01;
此时最优路径为晴
第二天微干,
A2(晴)=0.15* max [(0.5*0.378),(0.375*0.0425),0.01*0.125)]=0.02835
A2(多云)=0.25*max[(0.25*0.378),(0.125*0.0425),(0.675*0.01)]=0.023625
A2(阴)=0.35*max[(0.25*0.378),(0.375*0.0425),(0.01*0.375)]=0.033075
此时最优路径为阴
第三天:干旱,
A3(晴)=0.05* max [(0.5*0.02835),(0.375*0.023625),( 0.033075*0.125)]
=0.00070875
A3(多云)=0. 25*max[(0.25*0.02835),(0.125*0.023625),(0.675*0.033075)]
=0.0055814625
A3(阴)=0. 5*max[(0.25*0.02835),(0.375*0.023625),( 0.033075*0.375)]
=0.0062015625
此时最优路径为阴
所以观察状态为“潮湿”-“微干”-“干旱”的情况下海藻的状态组合最可能是“晴”-“阴”-“阴”。
本站仅提供存储服务,所有内容均由用户发布,如发现有害或侵权内容,请
点击举报。