共计 1239 个字符,预计需要花费 4 分钟才能阅读完成。
安装
composer require lizhichao/word
分词说明
-
含有 3 种切分方法
-
getWord
长度优先切分。最快 -
getShortWord
细粒度切分。比最快慢一点点 -
getAutoWord
自动切分。效果最好
-
- 可自定义词典,自己添加词语到词库,词库支持文本格式
json
和二级制格式igb
二进制格式词典小,加载快
-
dict.igb
含有 175662 个词,欢迎大家补充词语到dict.txt
,格式(词语 t idf t 词性)- idf 获取方法 百度搜索这个词语
Math.log(100000001/ 结果数量)
,如果你有更好的方法欢迎补充。 - 词性 [标点符号, 名词, 动词, 形容词, 区别词, 代词, 数词, 量词, 副词, 介词, 连词, 助词, 语气词, 拟声词, 叹词] 取 index;标点符号取 0
- idf 获取方法 百度搜索这个词语
- 三种分词结果对比
$fc = new VicWord('igb');
$arr = $fc->getWord('北京大学生喝进口红酒,在北京大学生活区喝进口红酒');
// 北京大学 | 生喝 | 进口 | 红酒 |,| 在 | 北京大学 | 生活区 | 喝 | 进口 | 红酒
//$arr 是一个数组 每个单元的结构[词语, 词语位置, 词性, 这个词语是否包含在词典中] 这里只值列出了词语
$arr = $fc->getShortWord('北京大学生喝进口红酒,在北京大学生活区喝进口红酒');
// 北京 | 大学 | 生喝 | 进口 | 红酒 |,| 在 | 北京 | 大学 | 生活 | 区喝 | 进口 | 红酒
$arr = $fc->getAutoWord('北京大学生喝进口红酒,在北京大学生活区喝进口红酒');
// 北京 | 大学生 | 喝 | 进口 | 红酒 |,| 在 | 北京大学 | 生活区 | 喝 | 进口 | 红酒
// 对比
//qq 的分词 http://nlp.qq.com/semantic.cgi#page2
// 百度的分词 http://ai.baidu.com/tech/nlp/lexical
分词速度
机器阿里云 Intel(R) Xeon(R) Platinum 8163 CPU @ 2.50GHz
getWord
每秒 140w 字 getShortWord
每秒 138w 字 getAutoWord
每秒 40w 字
测试文本在百度百科拷贝的一段 5000 字的文本
制作词库
- 词库支持 utf- 8 的任意字符
- 词典大小不影响 分词速度
只有一个方法 VicDict->add(词语, 词性 = null)
// 定义词典文件路径
define('_VIC_WORD_DICT_PATH_',__DIR__.'/Data/dict.igb');
require __DIR__.'/Lib/VicDict.php';
// 目前可支持 igb 和 json 两种词典库格式;igb 需要安装 igbinary 扩展,igb 文件小,加载快
$dict = new VicDict('igb');
// 添加词语词库 add(词语, 词性) 不分语言,可以是 utf- 8 编码的任何字符
$dict->add('中国','n');
// 保存词库
$dict->save();
demo
demo
该作者的其他软件
一个极简的高性能框架,可在 php-fpm 或者 swoole 异步协程环境运行
正文完