MySQL 中文全文檢索

php 中文分詞 splitword

SCWS 中文分詞

VicWord一個純php的分詞

在MySQL 5.7.6之前，全文索引只支持英文全文索引，不支持中文全文索引，需要利用分詞器把中文段落預處理拆分成單詞，然后存入數據庫。
從MySQL 5.7.6開始，MySQL內置了ngram全文解析器，用來支持中文、日文、韓文分詞。
本文使用的MySQL 版本是5.7.22，InnoDB數據庫引擎。

ngram全文解析器

ngram就是一段文字里面連續的n個字的序列。ngram全文解析器能夠對文本進行分詞，每個單詞是連續的n個字的序列。例如，用ngram全文解析器對“生日快樂”進行分詞:

n=1: '生', '日', '快', '樂' 
n=2: '生日', '日快', '快樂' 
n=3: '生日快', '日快樂' 
n=4: '生日快樂'

 

MySQL 中使用全局變量ngram_token_size來配置ngram中n的大小，它的取值范圍是1到10，默認值是2。通常ngram_token_size設置為要查詢的單詞的最小字數。如果需要搜索單字，就要把ngram_token_size設置為1。在默認值是2的情況下，搜索單字是得不到任何結果的。因為中文單詞最少是兩個漢字，推薦使用默認值2。

全局變量ngram_token_size的兩種設置方法：
1、啟動mysqld命令時

mysqld --ngram_token_size=2

 

2、修改MySQL配置文件

[mysqld] 
ngram_token_size=2

 

創建全文索引

1、創建表的同時創建全文索引

CREATE TABLE articles (
    id INT UNSIGNED AUTO_INCREMENT NOT NULL PRIMARY KEY,
    title VARCHAR (200),
    body TEXT,
    FULLTEXT (title, body) WITH PARSER ngram
) ENGINE = INNODB;

 

2、通過 alter table 的方式來添加

ALTER TABLE articles ADD FULLTEXT INDEX ft_index (title,body) WITH PARSER ngram;

 

3、直接通過create index的方式

CREATE FULLTEXT INDEX ft_index ON articles (title,body) WITH PARSER ngram;

 

全文檢索模式

常用的全文檢索模式有兩種：
1、自然語言模式(NATURAL LANGUAGE MODE) ，
自然語言模式是MySQL 默認的全文檢索模式。自然語言模式不能使用操作符，不能指定關鍵詞必須出現或者必須不能出現等復雜查詢。
2、BOOLEAN模式(BOOLEAN MODE)
BOOLEAN模式可以使用操作符，可以支持指定關鍵詞必須出現或者必須不能出現或者關鍵詞的權重高還是低等復雜查詢。

示例

SELECT * FROM articles
WHERE MATCH (title,body)
AGAINST ('一路 一帶' IN NATURAL LANGUAGE MODE);

// 不指定模式，默認使用自然語言模式
SELECT * FROM articles
WHERE MATCH (title,body)
AGAINST ('一路 一帶'); 

示例

 

上面的示例返回結果會自動按照相關性排序，相關性高的在前面。相關性的值是一個非負浮點數，0表示無相關性。

// 獲取相關性的值
SELECT id,title,
MATCH (title,body) AGAINST ('手機' IN NATURAL LANGUAGE MODE) AS score
FROM articles
ORDER BY score DESC; 

// 獲取匹配結果記錄數
SELECT COUNT(*) FROM articles
WHERE MATCH (title,body)
AGAINST ('一路 一帶' IN NATURAL LANGUAGE MODE);

 

可以使用BOOLEAN模式執行高級查詢。

// 必須包含"騰訊"
SELECT * FROM articles
WHERE MATCH (title,body)
AGAINST ('+騰訊' IN BOOLEAN MODE);

示例

// 必須包含"騰訊"，但是不能包含"通訊工具"
SELECT * FROM articles
WHERE MATCH (title,body)
AGAINST ('+騰訊 -通訊工具' IN BOOLEAN MODE); 

 

下面的例子演示了BOOLEAN模式下運算符的使用方式：

'apple banana' 
無操作符，表示或，要么包含apple，要么包含banana

'+apple +juice'
必須同時包含兩個詞

'+apple macintosh'
必須包含apple，但是如果也包含macintosh的話，相關性會更高。

'+apple -macintosh'
必須包含apple，同時不能包含macintosh。

'+apple ~macintosh'
必須包含apple，但是如果也包含macintosh的話，相關性要比不包含macintosh的記錄低。

'+apple +(>juice <pie)'
查詢必須包含apple和juice或者apple和pie的記錄，但是apple juice的相關性要比apple pie高。

'apple*'
查詢包含以apple開頭的單詞的記錄，如apple、apples、applet。

'"some words"'
使用雙引號把要搜素的詞括起來，效果類似於like '%some words%'，
例如“some words of wisdom”會被匹配到，而“some noise words”就不會被匹配。

 

注意

• 只能在類型為CHAR、VARCHAR或者TEXT的字段上創建全文索引。
• 全文索引只支持InnoDB和MyISAM引擎。
• MATCH (columnName) AGAINST ('keywords')。MATCH()函數使用的字段名，必須要與創建全文索引時指定的字段名一致。如上面的示例，MATCH (title,body)使用的字段名與全文索引ft_articles(title,body)定義的字段名一致。如果要對title或者body字段分別進行查詢，就需要在title和body字段上分別創建新的全文索引。
• MATCH()函數使用的字段名只能是同一個表的字段，因為全文索引不能夠跨多個表進行檢索。
• 如果要導入大數據集，使用先導入數據再在表上創建全文索引的方式要比先在表上創建全文索引再導入數據的方式快很多，所以全文索引是很影響TPS的。