11大java开源中文分词器的使用方法和分词效果对比
本文的目标有两个: 1、学会使用11大java开源中文分词器 2、对比分析11大java开源中文分词器的分词效果 本文给出了11大java开源中文分词的使用方法以及分词结果对比代码,至于效果哪个好,那要用的人结合自己的应用场景自己来判断。 11大java开源中文分词器,不同的分词器有不同的用法,定义的接口也不一样,我们先定义一个统一的接口: 从上面的定义我们知道,在java中,同样的方法名称和参数,但是返回值不同,这种情况不可以使用重载。 这两个方法的区别在于返回值,每一个分词器都可能有多种分词模式,每种模式的分词结果都可能不相同,第一个方法忽略分词器模式,返回所有模式的所有不重复分词结果,第二个方法返回每一种分词器模式及其对应的分词结果。 在这里,需要注意的是我们使用了java8中的新特性默认方法,并使用stream把一个map的val e转换为不重复的集合。 下面我们利用这11大分词器来实现这个接口: 1、word分词器 2、ansj分词器 3、stanford分词器 4、f dannlp分词器 5、jieba分词器 6、jcseg分词器 7、mmseg4j分词器 8、ikanalyzer分词器 9、paoding分词器 10、smartcn分词器 11、hanlp分词器 现在我们已经实现了本文的第一个目的:学会使用11大java开源中文分词器。