Python 文本挖掘：使用情感詞典進行情感分析（算法及程序設計）

 

出處：http://www.ithao123.cn/content-242299.html

情感分析就是分析一句話說得是很主觀還是客觀描述，分析這句話表達的是積極的情緒還是消極的情緒。

 

原理

比如這么一句話：“這手機的畫面極好，操作也比較流暢。不過拍照真的太爛了！系統也不好。”

① 情感詞

要分析一句話是積極的還是消極的，最簡單最基礎的方法就是找出句子里面的情感詞，積極的情感詞比如：贊，好，順手，華麗等，消極情感詞比如：差，爛，壞，坑爹等。出現一個積極詞就+1，出現一個消極詞就-1。

里面就有“好”，“流暢”兩個積極情感詞，“爛”一個消極情感詞。那它的情感分值就是1+1-1+1=2. 很明顯這個分值是不合理的，下面一步步修改它。

② 程度詞

“好”，“流暢”和‘爛“前面都有一個程度修飾詞。”極好“就比”較好“或者”好“的情感更強，”太爛“也比”有點爛“情感強得多。所以需要在找到情感詞后往前找一下有沒有程度修飾，並給不同的程度一個權值。比如”極“，”無比“，”太“就要把情感分值*4，”較“，”還算“就情感分值*2，”只算“，”僅僅“這些就*0.5了。那么這句話的情感分值就是：4*1+1*2-1*4+1=3

③ 感嘆號

可以發現太爛了后面有感嘆號，嘆號意味着情感強烈。因此發現嘆號可以為情感值+2. 那么這句話的情感分值就變成了：4*1+1*2-1*4-2+1 = 1

④ 否定詞

明眼人一眼就看出最后面那個”好“並不是表示”好“，因為前面還有一個”不“字。所以在找到情感詞的時候，需要往前找否定詞。比如”不“，”不能“這些詞。而且還要數這些否定詞出現的次數，如果是單數，情感分值就*-1，但如果是偶數，那情感就沒有反轉，還是*1。在這句話里面，可以看出”好“前面只有一個”不“，所以”好“的情感值應該反轉，*-1。

因此這句話的准確情感分值是：4*1+1*2-1*4-2+1*-1 = -1

⑤ 積極和消極分開來

再接下來，很明顯就可以看出，這句話里面有褒有貶，不能用一個分值來表示它的情感傾向。而且這個權值的設置也會影響最終的情感分值，敏感度太高了。因此對這句話的最終的正確的處理，是得出這句話的一個積極分值，一個消極分值（這樣消極分值也是正數，無需使用負數了）。它們同時代表了這句話的情感傾向。所以這句評論應該是”積極分值：6，消極分值：7“

⑥ 以分句的情感為基礎

再仔細一步，詳細一點，一條評論的情感分值是由不同的分句加起來的，因此要得到一條評論的情感分值，就要先計算出評論中每個句子的情感分值。這條例子評論有四個分句，因此其結構如下（[積極分值, 消極分值]）：[[4, 0], [2, 0], [0, 6], [0, 1]] 

以上就是使用情感詞典來進行情感分析的主要流程了，算法的設計也會按照這個思路來實現。

 

算法設計

第一步：讀取評論數據，對評論進行分句。

第二步：查找對分句的情感詞，記錄積極還是消極，以及位置。

第三步：往情感詞前查找程度詞，找到就停止搜尋。為程度詞設權值，乘以情感值。

第四步：往情感詞前查找否定詞，找完全部否定詞，若數量為奇數，乘以-1，若為偶數，乘以1。

第五步：判斷分句結尾是否有感嘆號，有嘆號則往前尋找情感詞，有則相應的情感值+2。

第六步：計算完一條評論所有分句的情感值，用數組（list）記錄起來。

第七步：計算並記錄所有評論的情感值。

第八步：通過分句計算每條評論的積極情感均值，消極情感均值，積極情感方差，消極情感方差。

 

實戰
這篇文章講到了使用情感詞典進行英文情感分析的方法和代碼講解，非常詳細。

但我使用了與之有所區別的方法和數據類型（我沒有使用字典，而只是用了列表。或許字典能記錄下更多信息，方便更復雜 的處理，但簡單的處理使用列表就足夠了）。

1. 載入幾個需要用的庫。pickle（讀取存儲的情感詞典數據），numpy（計算均值方差等），自己編寫的textprocessing庫（包括取excel數據、取txt數據、分詞、詞性標注、分句、去停用詞、計算文本相似度等功能）。

#! /usr/bin/env python2.7
#coding=utf-8

import pickle
import textprocessing as tp
import numpy as np

2. 載入情感詞典。

posdict = pickle.load(open('D:/code/sentiment_test/sentiment_dictionary/posdict.pkl', 'r'))
negdict = pickle.load(open('D:/code/sentiment_test/sentiment_dictionary/negdict.pkl', 'r'))
mostdict = pickle.load(open('D:/code/sentiment_test/sentiment_dictionary/mostdict.pkl', 'r'))
verydict = pickle.load(open('D:/code/sentiment_test/sentiment_dictionary/verydict.pkl', 'r'))
moredict = pickle.load(open('D:/code/sentiment_test/sentiment_dictionary/moredict.pkl', 'r'))
ishdict = pickle.load(open('D:/code/sentiment_test/sentiment_dictionary/ishdict.pkl', 'r'))
insufficientdict = pickle.load(open('D:/code/sentiment_test/sentiment_dictionary/insufficentdict.pkl', 'r'))
inversedict = pickle.load(open('D:/code/sentiment_test/sentiment_dictionary/inversedict.pkl', 'r'))

3. 載入評論數據。

review = pickle.load(open('D:/code/review_set/review_pkl/Motorala.pkl', 'r'))

4. 定義判斷基數偶數的函數。在判斷否定詞時使用。

def judgeodd(num):
if (num/2)*2 == num:
return 'even'
else:
return 'odd'

5. 情感分值計算主程序。

def sentiment_score_list(dataset):
cuted_data = []
for cell in dataset:
cuted_data.append(tp.cut_sentence(cell))

count1 = []
count2 = []
for sents in cuted_data: #循環遍歷每一個評論
for sent in sents: #循環遍歷評論中的每一個分句
segtmp = tp.segmentation(sent, 'list') #把句子進行分詞，以列表的形式返回
i = 0 #記錄掃描到的詞的位置
a = 0 #記錄情感詞的位置
poscount = 0 #積極詞的第一次分值
poscount2 = 0 #積極詞反轉后的分值
poscount3 = 0 #積極詞的最后分值（包括嘆號的分值）
negcount = 0
negcount2 = 0
negcount3 = 0
for word in segtmp:
if word in posdict: #判斷詞語是否是情感詞
poscount += 1
c = 0
for w in segtmp[a:i]: #掃描情感詞前的程度詞
if w in mostdict:
poscount *= 4.0
elif w in verydict:
poscount *= 3.0
elif w in moredict:
poscount *= 2.0
elif w in ishdict:
poscount /= 2.0
elif w in insufficientdict:
poscount /= 4.0
elif w in inversedict:
c += 1
if judgeodd(c) == 'odd': #掃描情感詞前的否定詞數
poscount *= -1.0
poscount2 += poscount
poscount = 0
poscount3 = poscount + poscount2 + poscount3
poscount2 = 0
else:
poscount3 = poscount + poscount2 + poscount3
poscount = 0
a = i + 1 #情感詞的位置變化
elif word in negdict: #消極情感的分析，與上面一致
negcount += 1
d = 0
for w in segtmp[a:i]:
if w in mostdict:
negcount *= 4.0
elif w in verydict:
negcount *= 3.0
elif w in moredict:
negcount *= 2.0
elif w in ishdict:
negcount /= 2.0
elif w in insufficientdict:
negcount /= 4.0
elif w in inversedict:
d += 1
if judgeodd(d) == 'odd':
negcount *= -1.0
negcount2 += negcount
negcount = 0
negcount3 = negcount + negcount2 + negcount3
negcount2 = 0
else:
negcount3 = negcount + negcount2 + negcount3
negcount = 0
a = i + 1
elif word == '！'.decode('utf8') or word == '!'.decode('utf8'): ##判斷句子是否有感嘆號
for w2 in segtmp[::-1]: #掃描感嘆號前的情感詞，發現后權值+2，然后退出循環
if w2 in posdict or negdict:
poscount3 += 2
negcount3 += 2
break
i += 1 #掃描詞位置前移

 

#以下是防止出現負數的情況
pos_count = 0
neg_count = 0
if poscount3 < 0 and negcount3 > 0:
neg_count += negcount3 - poscount3
pos_count = 0
elif negcount3 < 0 and poscount3 > 0:
pos_count = poscount3 - negcount3
neg_count = 0
elif poscount3 < 0 and negcount3 < 0:
neg_count = -poscount3
pos_count = -negcount3
else:
pos_count = poscount3
neg_count = negcount3

count1.append([pos_count, neg_count])
count2.append(count1)
count1 = []

return count2

6. 計算出所需的積極情感值，消極情感值，積極情感均值，消極情感均值，積極情感方差，消極情感方差。

def sentiment_score(senti_score_list):
score = []
for review in senti_score_list:
score_array = np.array(review)
Pos = np.sum(score_array[:,0])
Neg = np.sum(score_array[:,1])
AvgPos = np.mean(score_array[:,0])
AvgNeg = np.mean(score_array[:,1])
StdPos = np.std(score_array[:,0])
StdNeg = np.std(score_array[:,1])
score.append([Pos, Neg, AvgPos, AvgNeg, StdPos, StdNeg])
return score

7. 最后把分值寫入txt 文件中即可。就不貼代碼上來了。

 

 

畫外音：耍流氓啊，講了一整篇都沒講到情感詞典在哪里，這不坑爹么！

不急不急，下一篇再講。