小白给小白详解维特比算法(一)

2024-08-26 12:08
文章标签 算法 详解 小白 维特

本文主要是介绍小白给小白详解维特比算法(一),希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

转载自:
https://blog.csdn.net/athemeroy/article/details/79339546

篱笆网络Lattice的最短路径问题

初见HMM求解状态序列用到的维特比算法时,其实内心真的是崩溃的:数不尽的假设和公式,让人头昏脑涨的同时也击溃了自信心。但是仔细研究一下会发现其实问题蛮简单的,本文就致力于尝试用更通俗的方式解释一下维特比算法和它是如何运用在HMM求解状态序列中的,因为我也是刚看个差不多……所以如果有不对的地方请各位直接喷别留情!
(以下部分内容参考了吴军《数学之美》26.1,感谢吴军博士通俗易懂的讲解)

篱笆网络(Lattice)的最短路径问题
这个问题长什么样子?
尝试着回答一下这个问题(就算没办法回答也请先别关闭这个窗口!):
已知下图的篱笆网络,每个节点之间的数字表示相邻节点之间的距离,举个例子来说,如果我走A→B1→C2→D1→E,这个距离是6+6+5+4=21。那么如果让你从A走到E,最短路径是哪一条呢?

image_1c6ojbg349vlhlc1dqk1kc91cac58.png-56.9kB图1

这个问题难在哪里?
好啦不用尝试啦!显然大家都知道,通过穷举的方法是很容易得到最短路径,可是问题就在于如果穷举的话,需要的加法次数不用算你也知道实在是太多啦(每条路径需要计算4次加法,一共3×3×3=27条路径共108次计算)!像这种没几层的篱笆网络也就罢了,如果每层13个节点,一共12层(然而这个规模对于标注问题来说也依然根本不算什么),可想而知那个线有多乱,如果仅仅穷举的话,这个计算量(大致是每条12次计算,一共1312条路径共大约12×1312≈2×1015次计算)怕是超级计算机也吃不消。

为了不直接给公式让大家关掉窗口,我们尝试着一点一点来解决这个问题

简化成这个模样,你总能回答了吧?
如下图,如果我想让你找到A→E的最短路径,就很简单了吧?
image_1c6ojgubs15t3a1dbs15il7as5l.png-16.2kB图2

显然图2上只有三条路径,我们分别计算之后得到最短路径应该是A→D3→E这一条,路程是17。

这个时候请把这个问题和上一个问题做一个对比,同时从相反的方向考虑一下上一个问题:如果我最终想要到达E这个节点,其实无论如何都是要经过D这一层的,那么要是我知道从A到D的每一个节点的最短路径长度(在刚才的图上,我们事实上假设了他们分别是15、14和12),再加上从D的各节点到E的路程就得到了最终路径的长度。

当然我们还需要再多想一点:如果想要真的按照A到E的最短路径来走的话,我们其实不会选择D1和D2这两个节点,因为哪怕(以)A→D2(为例)路径更短(就算是10),但是加上D2→E的距离之后就变得更长了(这时候也是18)。相应的我们也就明白这样一个道理:虽然我们最后没有选择D1和D2这两个节点,但我们是否真的就不需要得到A到他们的最短路径了呢?答案当然是否定的:从刚才的例子我们很容易理解,站在D层的角度来看的话,最终的长度是由“历史”(A到每一个D的长度)和“未来”(每一个D到E的长度)同时决定的,只有同时掌握了“历史”和“未来”,世界才能在我们手中(旁白:你说什么呢)!

当然刚才我们从A到D层的路径是假设出来的,事实上如果我们真的要解决最开始那个问题,我们需要求解这个问题:
image_1c6ojkffu1ngj5mj1fe21ogh1vc162.png-17kB图3

我们就可以知道,最终的最短路径到底走的是哪个D。

下一步我们该干什么?
我们已经明白了,为了确定从哪个D到E才是最短的,我们就必须确定A到每一个D的最短路径。诶?这个问题是不是从哪里见过?

其实这就是所谓的“动态规划”的核心了:子问题几乎是完全一样的,我们只要一个一个解决了子问题(的子问题),最终的问题就迎刃而解了。

为了确定这个问题,我们就需要一个D一个D地去考虑(旁白:???),比如在考虑D1的时候不考虑D2、D3、E等等。把问题简化成这个样子:
image_1c6oo3b798cgkokui21apm1fa36f.png-40kB图4

这个图是不是和图1 非常相似?

然后根据图3的思想,我们把它简化成这个样子:
image_1c6oh39kn1sc6140crspdud9ma37.png-24.8kB图5

这个图是不是和图3非常相似?

问题相应就变成了从A到每一个C的最短路径是多少?

解决了这个问题的话,我们就可以知道,最终如果走了比如D1,前面路过的到底是哪个C

再进一步递推:为了确定到某一个C的最短路径,我们需要确定的就是这个问题:
image_1c6oha3dfjn91eo41juqpcdqe44e.png-20.1kB图6

不不不!聪明的你(O__O”…)一定发现了,这根本算不得什么问题,因为其实它是这样的:
image_1c6ohb3ijleq1c229j889e1o2k4r.png-21.2kB图7

因为我们已经推到最后一步了!从A到每一个B的路径事实上都是已知的,我们只需要把他们加在一起去比较大小就可以了!

别忘了我们的目标是什么:我们事实上是要确认如果最终路过了C1,前面路过的是哪一个B。

从动态规划的角度考虑,假设我们最终的路径能路过C1而我们已经走到了C1,那么可以肯定地说,我们来到C1的路径一定是所有来到C1路径里面最短的那一条(在这个图上看应该是B3)。因为如果我们没有走最短的那一条(比如我们错走成了B1),那么我们只要用更短的那一条(B3)去替换也一样可以走到C1。

别倒立了,我们再从头想一下这个问题!
我们刚才是从最终的E节点倒推考虑的这个问题,这一次我们从A真正的走一遍。

我们是怎么走过来的
我们在每一层M都仅仅需要考虑这样一个问题:

为了到下一个层的某一个确定的节点Ni,我们到底应该从哪一个Mi出发呢?

一旦确定了从哪一个Mi出发,其他的Mj就不在我考虑范围内了。
就像我们刚才说的,只要我能找到去C1应该从B3走,我就不需要考虑其他的到C1的路径了。这样就大大的减少了路径总数。

来,我们从A开始走
A→B
这个没啥说的:6,7,5

我们顺利走到了B层

A→B→C
我们确定到每一个C的节点,应该路过哪一个B:
image_1c6oo9fo41unc1mc46he3ssp1r7c.png-21.2kB
C1:6+5=11, 7+4=11, 5+4=9,最终选择A→B3→C1,抛弃其他到C1的路径,长度9
C2:12 ,10 ,11, 最终选择A→B2→C2,抛弃其他到C2的路径,长度10
C3:15,14,11,最终选择A→B3→C3,抛弃其他到C3的路径,长度11
我们顺利走到了C层,同时得到了到每一个C的最短路程

A(→B)→C→D
我们确定到每一个D的节点,应该路过哪一个C
image_1c6oobrs5k8kjm81plbeskk8e7p.png-32.3kB
D_1:9+7=16,10+5=15,11+5=16,最终选择A→B2→C2→D1,抛弃其他到D1的路径,长度15
D_2:17,14,18,最终选择A→B2→C2→D2,抛弃其他到D2的路径,长度14
D_3:12,13,17,最终选择A→B3→C1→D3,抛弃其他到D3的路径,长度12
我们顺利走到了D层,同时得到了到每一个D的最短路程

A(→B→C)→D→E
我们确定每一个D到最终节点E的路程
image_1c6oplpus1or519sjsdp18cn7kp8j.png-27.4kB
显然最后应该选择D3,完整路径为
A→B3→C1→D3→E
路程为17。抛弃其他所有路径。

这次我们需要算的次数大约是多少呢?
简单来说,从A到B有3条路径,每一条我们需要算到每一个C的最短距离,所以是2(路径加法数)×3(A→B)×3(B→C),只要我们确定了每一个到C的最短距离剩下的事情就可以从C开始考虑了:每一个C需要确定到每一个D的最短距离,最终再加上D到E的距离就搞定了(2(路径加法数)×3(C个数)×3(D个数))。
如果换成是12层,每层最多13节点的话,每推一步的计算量最大规模在132(为了确定从哪一个B来到C,需要对每一个B到每一个C进行一次计算,上述计算每步是32=9次),而因为子问题都是一样的,所以增长是与网络长度成正比的:推进12次也仅仅乘以12而已。当然计算的方式不可能像这样简单乘一乘就搞定,但是可以看得出要比穷举要简单得多了。

We are almost there!
这几乎就是维特比算法了。至于维特比算法更公式化的描述和在隐含马尔科夫过程中的应用,我们下一文再说!

这篇关于小白给小白详解维特比算法(一)的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!



http://www.chinasem.cn/article/1108522

相关文章

Linux线程同步/互斥过程详解

《Linux线程同步/互斥过程详解》文章讲解多线程并发访问导致竞态条件,需通过互斥锁、原子操作和条件变量实现线程安全与同步,分析死锁条件及避免方法,并介绍RAII封装技术提升资源管理效率... 目录01. 资源共享问题1.1 多线程并发访问1.2 临界区与临界资源1.3 锁的引入02. 多线程案例2.1 为

Python使用Tenacity一行代码实现自动重试详解

《Python使用Tenacity一行代码实现自动重试详解》tenacity是一个专为Python设计的通用重试库,它的核心理念就是用简单、清晰的方式,为任何可能失败的操作添加重试能力,下面我们就来看... 目录一切始于一个简单的 API 调用Tenacity 入门:一行代码实现优雅重试精细控制:让重试按我

Python标准库之数据压缩和存档的应用详解

《Python标准库之数据压缩和存档的应用详解》在数据处理与存储领域,压缩和存档是提升效率的关键技术,Python标准库提供了一套完整的工具链,下面小编就来和大家简单介绍一下吧... 目录一、核心模块架构与设计哲学二、关键模块深度解析1.tarfile:专业级归档工具2.zipfile:跨平台归档首选3.

idea的终端(Terminal)cmd的命令换成linux的命令详解

《idea的终端(Terminal)cmd的命令换成linux的命令详解》本文介绍IDEA配置Git的步骤:安装Git、修改终端设置并重启IDEA,强调顺序,作为个人经验分享,希望提供参考并支持脚本之... 目录一编程、设置前二、前置条件三、android设置四、设置后总结一、php设置前二、前置条件

python中列表应用和扩展性实用详解

《python中列表应用和扩展性实用详解》文章介绍了Python列表的核心特性:有序数据集合,用[]定义,元素类型可不同,支持迭代、循环、切片,可执行增删改查、排序、推导式及嵌套操作,是常用的数据处理... 目录1、列表定义2、格式3、列表是可迭代对象4、列表的常见操作总结1、列表定义是处理一组有序项目的

python使用try函数详解

《python使用try函数详解》Pythontry语句用于异常处理,支持捕获特定/多种异常、else/final子句确保资源释放,结合with语句自动清理,可自定义异常及嵌套结构,灵活应对错误场景... 目录try 函数的基本语法捕获特定异常捕获多个异常使用 else 子句使用 finally 子句捕获所

C++11范围for初始化列表auto decltype详解

《C++11范围for初始化列表autodecltype详解》C++11引入auto类型推导、decltype类型推断、统一列表初始化、范围for循环及智能指针,提升代码简洁性、类型安全与资源管理效... 目录C++11新特性1. 自动类型推导auto1.1 基本语法2. decltype3. 列表初始化3

SQL Server 中的 WITH (NOLOCK) 示例详解

《SQLServer中的WITH(NOLOCK)示例详解》SQLServer中的WITH(NOLOCK)是一种表提示,等同于READUNCOMMITTED隔离级别,允许查询在不获取共享锁的情... 目录SQL Server 中的 WITH (NOLOCK) 详解一、WITH (NOLOCK) 的本质二、工作

springboot自定义注解RateLimiter限流注解技术文档详解

《springboot自定义注解RateLimiter限流注解技术文档详解》文章介绍了限流技术的概念、作用及实现方式,通过SpringAOP拦截方法、缓存存储计数器,结合注解、枚举、异常类等核心组件,... 目录什么是限流系统架构核心组件详解1. 限流注解 (@RateLimiter)2. 限流类型枚举 (

Java Thread中join方法使用举例详解

《JavaThread中join方法使用举例详解》JavaThread中join()方法主要是让调用改方法的thread完成run方法里面的东西后,在执行join()方法后面的代码,这篇文章主要介绍... 目录前言1.join()方法的定义和作用2.join()方法的三个重载版本3.join()方法的工作原