分享一篇 hanlp 分词工具使用的利用小案例，即利用 hanlp 分词工具分析两个中文语句的成语相似度的案例。供大家一起学习参考！句相解

在做kaoshi系统需求时，似度后台题库系统提供录入题目的分析法详功能。在录入题目的利用时候，由于题目来源广泛，成语且参与录入题目的句相解人有多位，因此容易出现录入重复题目的似度情况。所以需要实现语句相似度分析功能，分析法详从而筛选出重复的利用题目并人工处理之。

下面介绍如何使用 Java 实现上述想法，亿华云成语完成语句相似度分析：

1 、句相解使用 HanLP 完成分词：

首先，似度添加 HanLP 的分析法详依赖：（ jsoup 是为了处理题干中的 html 标签，去除 html 标签得到纯文本的题干内容）

分词代码如下，需要处理 html 标签和标点符号：

private static List<String> getSplitWords(String sentence) {

        // 去除掉 html 标签

        sentence = Jsoup.parse(sentence.replace(" ","")).body().text();

        // 标点符号会被单独分为一个 Term ，去除之

        return HanLP.segment(sentence).stream().map(a -> a.word).filter(s -> !"`~!@#$^&*()=|{ }:;,\\[\\].<>/?~ ！ @# ￥…… &* （）—— |{ } 【】‘；：”“ 。，、？ ".contains(s)).collect(Collectors.toList());

    }

2 、合并分词结果，列出所有的词：

3 、统计词频，得到词频构成的服务器托管向量：

代码如下，其中 allWords 是上一步中得到的所有的词， sentWords 是第一步中对单个句子的分词结果：

4 、计算相似度（两个向量的余弦值）：

以上所有方法的完整代码如下，使用 SimilarityUtil.getSimilarity(String s1,String s2) 即可得到 s1 和 s2 的语句相似度：

package com.yuantu.dubbo.provider.questionRepo.utils;

import com.hankcs.hanlp.HanLP;

import com.hankcs.hanlp.dictionary.CustomDictionary;

import org.jsoup.Jsoup;

import java.util.ArrayList;

import java.util.Calendar;

import java.util.Collections;

import java.util.List;

import java.util.stream.Collectors;

public class SimilarityUtil {

    static {

        CustomDictionary.add(" 子类 ");

        CustomDictionary.add(" 父类 ");

    }

    private SimilarityUtil() {

    }

    /**

     * 获得两个句子的相似度

     *

     * @param sentence1

     * @param sentence2

     * @return

     */

    public static double getSimilarity(String sentence1, String sentence2) {

        List<String> sent1Words = getSplitWords(sentence1);

        System.out.println(sent1Words);

        List<String> sent2Words = getSplitWords(sentence2);

        System.out.println(sent2Words);

        List<String> allWords = mergeList(sent1Words, sent2Words);

        int[] statistic1 = statistic(allWords, sent1Words);

        int[] statistic2 = statistic(allWords, sent2Words);

        double dividend = 0;

        double divisor1 = 0;

        double divisor2 = 0;

        for (int i = 0; i < statistic1.length; i++) {

            dividend += statistic1[i] * statistic2[i];

            divisor1 += Math.pow(statistic1[i], 2);

            divisor2 += Math.pow(statistic2[i], 2);

        }

        return dividend / (Math.sqrt(divisor1) * Math.sqrt(divisor2));

    }

    private static int[] statistic(List<String> allWords, List<String> sentWords) {

        int[] result = new int[allWords.size()];

        for (int i = 0; i < allWords.size(); i++) {

            result[i] = Collections.frequency(sentWords, allWords.get(i));

        }

        return result;

    }

    private static List<String> mergeList(List<String> list1, List<String> list2) {

        List<String> result = new ArrayList<>();

        result.addAll(list1);

        result.addAll(list2);

        return result.stream().distinct().collect(Collectors.toList());

    }

    private static List<String> getSplitWords(String sentence) {

        // 去除掉 html 标签

        sentence = Jsoup.parse(sentence.replace(" ","")).body().text();

        // 标点符号会被单独分为一个 Term ，去除之

        return HanLP.segment(sentence).stream().map(a -> a.word).filter(s -> !"`~!@#$^&*()=|{ }:;,\\[\\].<>/?~ ！ @# ￥…… &* （）—— |{ } 【】‘；：”“ 。，、？ ".contains(s)).collect(Collectors.toList());

    }

}

---------------------