< 返回技术文档列表

怎么用Python代码写一个语言检测器

发布时间:2021-11-07 03:05:34⊙投诉举报

怎么用Python代码写一个语言检测器,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。

你有没有曾经好奇过Chrome浏览器是如何知道一个网页的语言,并对外国文字的网页提供翻译服务的?或者,Facebook是如何翻译你朋友用写在你主页上的外国文字?检测一种语言实际上非常简单,改进了用户体验,而且不需要用户做任何的事情。

我无意中发现的 ActiveState recipe for a language detector in Python这是非常不错的一段程序,但是我决定做点小小的改进。提供一些背景知识给那些不熟悉自然语言处理或者是程序语言学的人。

如果你是有经验的程序员,你也许可以直接跳到这段文字最下端的程序部分。出奇的简单。

你需要熟悉Python语法。

什么检测到了一种语言?

在你写区分语言的程序之前,你需要回答一个问题:什么区别了两种语言?

有趣的是,这个问题的答案会根据不同的比较语言而有所不同。比如:

女性が牛乳を飲んだ。 (译者注: 日语:女性喝牛奶。)

你是怎么知道这句话不是英文的?你也许不熟悉日文,但是你肯定知道这些字符不是英文,你甚至不需要知道具体哪个字符不存在于英文字母中。

La femme boit du lait.   (译者注: 法语:女性喝牛奶。)

你怎么知道这句话不是英文的?有一点麻烦。每个字母都在英文中。甚至每一个字母和句型结构都和英文的同一个意思的那句话很相似&mdash;&mdash; “The  woman drank milk.” (译者注: 英语:女性喝牛奶。) 。  你的大脑用了另一个特性去判断这个:尽管字母很相似,这两句话发音没有任何相似之处。

还有很多更复杂的方式去检测两种不同的语言(例如,语法、句法等等)上面提到的两个特性似乎足够用来区分很多的书写文字。

提问:你可以想到一个相反的例子嘛?  两种不能用字符或者发音而区分的语言?(译者注:这是我想到的,和编者没有任何关系。Hindi 和Nepali  的区分度极低,印度的一种语言和尼泊尔的官方语言的区别度非常低,字符区别很低而发音更高达50%的相似度。当然,他们两个是同一语系的语种。)

如何用计算机检测到这些特性?

***个特性已经存在于任何一台现代化的机器里 &mdash;&mdash;character encodings 字符解码允许任何一台计算机去通过二进制码而呈现每一个字符。我们要用unicode 在Python 的程序中。

第二个特征更有意思。如何能让一台电脑检测到字符串的发音呢?答案比想象的简单点:字符串顺序是按照声音解码的!他们有直接的稳定的对应关系- 语言改变的非常缓慢。

因此,你可以用下面的两个特性去检测一行文本语言:

  • 单个字符的重复性

  • 字符串的重复性

实际上,这两个特性浓缩到了一个特性中:字符串的顺序。单个字符的重复性只是字符串的重复性。

快速知识补充:在计算机语言学中,字符串的长度 n 被定义为 n-gram。 “a” 是一个gram, 1-gram. “bc”是两个gram,2-gram or bigram。 “def” 是三个gram, 3-gram 或者trigram,以此类推。

用python 实现

首先,我们需要计算某个字符串在特定文本中出现的次数。为了封装结果,我们将建立一个NGram 类。

看完上述内容,你们掌握怎么用Python代码写一个语言检测器的方法了吗?如果还想学到更多技能或想了解更多相关内容,欢迎关注血鸟云行业资讯频道,感谢各位的阅读!


/template/Home/Zkeys/PC/Static