动态规划法(十一)编辑距离

编辑距离问题
  什么是两个字符串的编辑距离(edit distance)?给定字符串s1和s2,以及在s1上的如下操作:

插入(Insert)一个字符
移除(Remove)一个字符
替换(Replace)一个字符

试问最小需要多少次这样的操作才能使得s1转换为s2?  比如,单词“cat”和“hat”,这样的操作最少需要一次,只需要把“cat”中的“c”替换为“h”即可。单词“recall”和“call”,这样的操作最少需要两次,只需要把“recall”中的“r”和“e”去掉即可。单词“Sunday”和“Saturday”,这样的操作最少需要3次,在“Sunday”的“S”和“u”中插入“a”和“t”,再把“n”替换成“r”即可。  那么,是否存在一种高效的算法,能够快速、准确地计算出两个字符串的编辑距离呢?
动态规划算法
  我们使用动态规划算法(Dynamic Programming)来计算出两个字符串的编辑距离。  我们从两个字符串s1和s2的最末端向前遍历来考虑。假设s1的长度为m,s2的长度为n,算法如下:

如果两个字符串的最后一个字符一样,那么,我们就可以递归地计算长度为m-1和n-1的两个字符串的情形;

如果两个字符串的最后一个字符不一样,那么,进入以下三种情形:

插入: 递归地计算长度为m和n-1的两个字符串的情形,这是因为在s1中的末端插入了一个s2的最后一个字符,这样s1和s2的末端字符一样,就是1中情形;
删除: 递归地计算长度为m-1和n的两个字符串的情形,这是在s1中的末端删除了一个字符;
替换: 递归地计算长度为m-1和n-1的两个字符串的情形,这是因为把s1中末端字符替换成了s2的最后一个字符,这样s1和s2的末端字符一样,就是1中情形;

  这样,我们就有了子结构问题。对于动态规划算法,我们还需要一个初始化的过程,然后中间维护一张二维表即可。初始化的过程如下: 如果m为0,则至少需要操作n次,即在s1中逐个添加s2的字符,一共是n次;如果n为0,则至少需要操作m次,即把s1的字符逐个删除即可,一共是m次。
Python实现
  利用DP算法解决两个字符串的编辑距离的Python代码如下:
# -*- coding: utf-8 -*-
# using Dynamic Programming to solve edit distance problem

# s1, s2 are two strings
def editDistDP(s1, s2):

m, n = len(s1), len(s2)
# Create a table to store results of subproblems
dp = [[0 for _ in range(n+1)] for _ in range(m+1)]

# using DP in bottom-up manner
for i in range(m + 1):
for j in range(n + 1):

# If first string is empty, only option is to
# isnert all characters of second string, thus the
# min opration is j
if i == 0:
dp[i][j] = j

# If second string is empty, only option is to
# remove all characters of second string, thus the
# min opration is i
elif j == 0:
dp[i][j] = i

# If last characters are same, ignore last character
# and recursive for remaining string
elif s1[i-1] == s2[j-1]:
dp[i][j] = dp[i-1][j-1]

# If last character are different, consider all
# possibilities and find minimum of inserting, removing, replacing
else:
dp[i][j] = 1 + min(dp[i][j-1], # Insert
dp[i-1][j], # Remove
dp[i-1][j-1]) # Replace

return dp[m][n]

# Driver program
s1 = “sunday”
s2 = “saturday”
edit_distance = editDistDP(s1, s2)
print(“The Edit Distance of ‘%s’ and ‘%s’ is %d.”%(s1, s2, edit_distance))
输出结果如下:
The Edit Distance of ‘sunday’ and ‘saturday’ is 3.
Java实现
  利用DP算法解决两个字符串的编辑距离的Java代码如下:
package DP_example;

// 计算两个字符串的编辑距离(Edit Distance)
public class Edit_Distance {

// 主函数
public static void main(String[] args) {
String str1 = “cat”;//”Sunday”;
String str2 = “hat”;//”Saturday”;
int edit_dist = edit_distance(str1, str2);
System.out.println(String.format(“The edit distance of ‘%s’ and ‘%s’ is %d.”,
str1, str2, edit_dist));
}

/*
函数edit_distanc: 计算两个字符串的编辑距离(Edit Distance)
传入参数: 两个字符串str1和str2
返回: 编辑距离
*/
public static int edit_distance(String str1, String str2){

// 字符串的长度
int m = str1.length();
int n = str2.length();

// 初始化表格,用于维护子问题的解
int[][] dp = new int[m+1][n+1];
for(int i=0; i <= m; i++)
for(int j=0; j <= n; j++)
dp[i][j] = 0;

// using DP in bottom-up manner
for(int i=0; i <= m; i++){
for(int j=0; j <= n; j++) {
/* If first string is empty, only option is to
* isnert all characters of second string, thus the
* min opration is j
*/
if(i == 0) { dp[i][j] = j;}

/* If second string is empty, only option is to
* remove all characters of second string, thus the
* min opration is i
*/
else if(j == 0){dp[i][j] = i;}

/* If last characters are same, ignore last character
* and recursive for remaining string
*/
else if(str1.charAt(i-1) == str2.charAt(j-1)){
dp[i][j] = dp[i-1][j-1];
}

/*If last character are different, consider all
*possibilities and find minimum of inserting, removing, replacing
*/
else{
/*
* dp[i][j-1]: Insert
* dp[i-1][j]: Remove
* dp[i-1][j-1]: Replace
*/
dp[i][j] = 1 + min(min(dp[i][j-1], dp[i-1][j]), dp[i-1][j-1]);
}
}
}

return dp[m][n];
}

public static int min(int i, int j){
return (i <= j) ? i : j;
}

}
输出结果如下:
The edit distance of ‘cat’ and ‘hat’ is 1.
其它实现方式
  以上,我们用Python和Java以及动态规划算法自己实现了编辑距离的计算。当然,我们也可以调用第三方模块的方法,比如NTLK中的edit_distance()函数,示例代码如下:
# 利用NLTK中的edit_distance计算两个字符串的Edit Distance

from nltk.metrics import edit_distance

s1 = “recall”
s2 = “call”
t = edit_distance(s1, s2)
print(“The Edit Distance of ‘%s’ and ‘%s’ is %d.” % (s1, s2, t))
输出结果如下:
The Edit Distance of ‘recall’ and ‘call’ is 2.
总结
  在本文中,我们对于两个字符串的编辑距离的计算,只采用了插入、删除、替换这三种操作,在实际中,可能还会有更多的操作,比如旋转等。当然,这并不是重点,重点是我们需要了解解决这类问题的算法,即动态规划算法。在后续的文章中,笔者会介绍编辑距离在文本处理中的应用。  本次分享到此结束,欢迎大家交流~~
注意:本人现已开通微信公众号: Python爬虫与算法(微信号为:easy_web_scrape), 欢迎大家关注哦~~

评论

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

这个站点使用 Akismet 来减少垃圾评论。了解你的评论数据如何被处理