9

我发现了优秀的包“stringdist”,现在想用它来计算字符串距离。特别是我有一组单词,我想打印出近似匹配,其中“近似匹配”是通过诸如 Levenshtein 距离之类的算法。

我在 shell 脚本中的工作代码非常慢,我能够在 stringdist 中加载并生成一个带有度量的矩阵。现在我想将该矩阵归结为一个较小的矩阵,该矩阵仅具有近似匹配,例如,度量非零但小于某个阈值。

kp <-  c('leaflet','leafletr','lego','levenshtein-distance','logo')
kpm <- stringdistmatrix(kp,useNames="strings",method="lv")
> kpm
                     leaflet leafletr lego levenshtein-distance
leafletr                   1                                   
lego                       5        6                          
levenshtein-distance      16       16   18                     
logo                       6        7    1                   19
m = as.matrix(kpm)
close = apply(m, 1, function(x) x>0 & x<5)
>  close
                     leaflet leafletr  lego levenshtein-distance  logo
 leaflet                FALSE     TRUE FALSE                FALSE FALSE
 leafletr                TRUE    FALSE FALSE                FALSE FALSE
 lego                   FALSE    FALSE FALSE                FALSE  TRUE
 levenshtein-distance   FALSE    FALSE FALSE                FALSE FALSE
 logo                   FALSE    FALSE  TRUE                FALSE FALSE

好的,现在我有一个(大)dist,我如何将它减少回一个列表,其中输出类似于

leafletr,leaflet,1
logo,lego,1

仅适用于度量非零且小于 n=5 的情况?我找到了“apply()”,它可以让我进行测试,现在我需要弄清楚如何使用它。

该问题并非特定于 stringdist 和 stringdistmatrix 并且是非常基本的 R,但我仍然被卡住了。我怀疑答案涉及子集(),但我不知道如何将“dist”转换为其他东西。

4

2 回答 2

6

设置您的数据:

library('stringdist')
library('dplyr')
kp <-  c('leaflet','leafletr','lego','levenshtein-distance','logo')
kpm <- stringdistmatrix(kp,useNames="strings",method="lv")

这是我们可以更改kpm为数据框的地方:

kpm <- data.frame(as.matrix(kpm))

这是一种获取具有“1”的数据框以标记单词足够接近的位置的方法:

idx <- apply(kpm, 2, function(x) x >0 & x<5)
idx <- apply(idx, 1:2, function(x) if(isTRUE(x)) x<-1 else x<-NA)
#> idx
#                     leaflet leafletr lego levenshtein.distance logo
#  leaflet                   NA        1   NA                   NA   NA
#  leafletr                   1       NA   NA                   NA   NA
#  lego                      NA       NA   NA                   NA    1
#  levenshtein-distance      NA       NA   NA                   NA   NA
#  logo                      NA       NA    1                   NA   NA

为了简单起见,融化数据框,过滤它并去掉最后一列:

final <- melt(idx) %>%
        filter(value==1) %>%
        select(Var1, Var2)

不要忘记把一切都变成角色,而不是因素!(有时这就像 R 中的破记录......)

final[] <- lapply(final, as.character)
#> final
#      Var1     Var2
#  leafletr  leaflet
#   leaflet leafletr
#      logo     lego
#      lego     logo

现在我们摆脱重复项:

final <- final[!duplicated(data.frame(list(do.call(pmin,final),do.call(pmax,final)))),]

加上一些好名字,你就可以走了。

names(final) <- c('string 1', 'string 2')
#> final
# string 1 string 2
# leafletr  leaflet
#     logo     lego

(尽管您请求了一个列表,但这是一个数据框。从这里可以很容易地根据您的需要转换为您想要的任何内容,例如,写入 csv 等)

于 2015-07-18T05:04:53.543 回答
6

你可以这样做:

library(reshape2)
d <- unique(melt(m))
out <- subset(d, value > 0 & value < 5)

在这里,melt带入m长格式(2 列带有字符串名称,1 列带有值)。然而,由于我们已经融合了一个对称矩阵,我们将unique其用于重复数据删除。

另一种方法是使用dplyr(因为现在所有酷孩子都在使用dplyr管道):

library(dlpyr)
library(reshape2)
library(magrittr)

out <- melt(m) %>% distinct() %>% filter(value > 0 & value < 5)

第二个选项可能更快,但我还没有真正计时。

于 2015-07-18T06:19:42.067 回答