Java實現讀取文章中重復出現的中文字符串

在上個星期阿里巴巴一面的時候，最后面試官問我如何把一篇文章中重復出現的詞或者句子找出來，當時太緊張，答的不是很好。今天有時間再來親手實現一遍。其實說白了也就是字符串的處理，所以難度並不是很大。

以下是代碼和運行效果：

實現方法：

import java.io.*;
import java.util.*;

/**
 * Created by chunmiao on 17-3-20.
 */
public class ReadArticle {
    //讀取文件名稱
    private String filename;
    //讀取段落
    private ArrayList<String> result = new ArrayList<>();
    //最小字長（兩個字以上進行匹配）
    private final int MINSIZE = 2;
    //重復詞儲存
    HashSet<String> set;

    public ReadArticle(String filename, HashSet<String> set) {
        this.filename = filename;
        this.set = set;
    }


    public void createData() throws IOException {
        String r;
        //讀取文章內容
        BufferedReader in = new BufferedReader(new FileReader(new File(filename).getAbsoluteFile()));
        try {
            while ((r = in.readLine()) != null) {
                //消除不必要的標點符號
                r = r.replaceAll("\\s+ |“|\\[|‘|《|　*|", "").trim();
                //留下” ， 。  。”  ”。 ”， ？ 》 -等作為划分句子的分割符標示
                Collections.addAll(result, r.split("，|(。”|”(。|，)|。)|(\\])|”|’|？|:|》|-"));
            }
        }finally {
            in.close();
        }

        //對文章內容進行遍歷找出重讀出現的句子或者是詞語
        for (int i  = 0 ; i < result.size() - 1; i ++){
            for (int j  = 0 ; j < result.size() - i - 1; j ++) {
                //將重復出現的詞語保存到set集合里面
                set.addAll(getSameCharacter(result.get(i), result.get(j + i + 1)));
            }
        }

    }

    private ArrayList<String> getSameCharacter(String a1, String a2){
        String maxS;
        String minS;
        //短句遍歷開始處
        int start = 0;
        //詞的長度最短為兩個字長
        int range =2;
        //設定短句和長句s,使得遍歷更加快捷
        if (a1.length() <= a2.length()){
            maxS = a2;
            minS = a1;
        }else {
            maxS = a1;
            minS = a2;
        }
        String result = "";
        ArrayList<String> list = new ArrayList<String>();
        //防止substring時超出范圍
        while (start + range <= minS.length()) {
            //如果句子或詞在對象里面，則找出相應的句子或詞保存在list里面
            if (maxS.indexOf(minS.substring(start, start + range)) != -1) {
                //獲取最長句子,刪除短句子
                list.remove(result);
                list.add(minS.substring(start, start + range));
                result = minS.substring(start, start + range);
                range++;
                continue;
            }
            range = MINSIZE;
            start++;
        }
        return list;
    }
}

測試代碼：

import java.io.IOException;
import java.util.HashSet;

public class Main {

    public static void main(String[] args) throws IOException {
        String filename = "test.txt";
        HashSet<String> result = new HashSet<String>();
        ReadArticle read = new ReadArticle(filename,result);
        read.createData();
        System.out.println("這篇文章中的重復出現的詞或句子有以下幾個詞或句子:\n");
        for (String s : result){
            System.out.println(s);
        }
    }
}

讀取的文章內容：

 

正則匹配結果（去掉多余字符）：

 

字符串轉換成ArrayList: 

最終處理結果：

其實從上面的結果可以看出。單純的操控字符串並不能判斷它是否是一個完整的詞和句，應該還要配合數據庫字典來匹配上面的結果，從而找出真正的詞和句。