Java爬取B站彈幕 —— Python雲圖Wordcloud生成彈幕詞雲


一 . Java爬取B站彈幕

彈幕的存儲位置

如何通過B站視頻AV號找到彈幕對應的xml文件號

首先爬取視頻網頁,將對應視頻網頁源碼獲得

 

 就可以找到該視頻的av號aid=8678034

 還有彈幕序號,cid=14295428

 彈幕存放位置為  http://comment.bilibili.com/14295428.xml

 1 import org.apache.http.HttpEntity;
 2 import org.apache.http.client.methods.CloseableHttpResponse;
 3 import org.apache.http.client.methods.HttpGet;
 4 import org.apache.http.impl.client.CloseableHttpClient;
 5 import org.apache.http.impl.client.HttpClients;
 6 import org.apache.http.util.EntityUtils;
 7 import java.io.*;
 8 import java.net.URL;
 9 import java.util.regex.Matcher;
10 import java.util.regex.Pattern;
11 
12 public class getBiliBiliBofqi {
13     public static boolean isInteger(String str) {
14         Pattern pattern = Pattern.compile("^[-\\+]?[\\d]*$");
15         return pattern.matcher(str).matches();
16     }
17     public static void getBofqi(String aid) throws Exception {
18         CloseableHttpClient closeableHttpClient = HttpClients.createDefault();
19         HttpGet httpGet = new HttpGet("https://www.bilibili.com/video/av" + aid + "/");
20         CloseableHttpResponse httpResponse = closeableHttpClient.execute(httpGet);
21         HttpEntity httpEntity = httpResponse.getEntity();
22         String en = EntityUtils.toString(httpEntity);
23         //"cid=16496518&aid=9979006&pre_ad="
24         String con = "cid=(.*)?&aid=";
25         Pattern ah = Pattern.compile(con);
26         Matcher mr = ah.matcher(en);
27         while (mr.find()) {
28             String id = mr.group();
29             // 解析彈幕xml文件
30             String newUrl = id.replace("cid=", "");
31             String x = newUrl.replace("&aid=", "");
32             if(!isInteger(x)){
33                 return ;
34             }
35             URL url  = new URL( "http://comment.bilibili.com/"+x+".xml" );
36             HttpGet httpGet1 = new HttpGet("http://comment.bilibili.com/"+x+".xml");
37             CloseableHttpResponse httpResponse1 = closeableHttpClient.execute(httpGet1) ;
38             HttpEntity httpEntity1 = httpResponse1.getEntity() ;
39             String en1 = EntityUtils.toString(httpEntity1,"utf-8") ;
40 
41             String c = "\">(.*?)<";
42             Pattern a = Pattern.compile(c);
43             Matcher m = a.matcher(en1);
44             RandomAccessFile randomAccessFile = new RandomAccessFile("E:\\dan_"+x+".txt", "rw");
45             while (m.find()) {
46                 String speak = m.group().replace("\">", "");
47                 speak = speak.replace("<", "");
48 
49                 // 存儲彈幕
50                 long len = randomAccessFile.length();
51                 randomAccessFile.seek(len);
52                 randomAccessFile.write(speak.getBytes());
53                 randomAccessFile.write("\r\n".getBytes());
54                 System.out.println(speak);
55             }
56             randomAccessFile.write("\r\n".getBytes());
57             randomAccessFile.close();
58         }
59     } 
60     public static void main(String[] args) throws Exception {
61         getBofqi("16772795");
62         getBofqi("8542373");
63         getBofqi("5112921");
64         getBofqi("1747345");
65         getBofqi("2648921");
66         getBofqi("2333333");
67         getBofqi("3771373");
68         getBofqi("17224371");
69     }
70 }

爬取的彈幕文件 :

運行結果:

 

 

二 . Python雲圖Wordcloud生成彈幕詞雲

1      github:https://github.com/amueller/word_cloud 
2      官方地址:https://amueller.github.io/word_cloud/

 

 

 

# coding: utf-8
import jieba
from scipy.misc import imread  # 這是一個處理圖像的函數
from wordcloud import WordCloud, STOPWORDS, ImageColorGenerator
import matplotlib.pyplot as plt

back_color = imread('02.jpg')  # 解析該圖片

wc = WordCloud(background_color='white',  # 背景顏色
               max_words=500,  # 最大詞數
               #mask=back_color,  # 以該參數值作圖繪制詞雲,這個參數不為空時,width和height會被忽略
               max_font_size=100,  # 顯示字體的最大值
               stopwords=STOPWORDS.add('fa'),  # 使用內置的屏蔽詞,再添加'苟利國'
               font_path="C:/Windows/Fonts/STFANGSO.ttf",  # 解決顯示口字型亂碼問題,可進入C:/Windows/Fonts/目錄更換字體
               random_state=42,  # 為每個詞返回一個PIL顏色
                 width=1000,  # 圖片的寬
                 height=860  #圖片的長
               )
# WordCloud各含義參數請點擊 wordcloud參數
 
# 打開詞源的文本文件
text = open('dan_6051409.txt').read()


# 該函數的作用就是把屏蔽詞去掉,使用這個函數就不用在WordCloud參數中添加stopwords參數了
# 把你需要屏蔽的詞全部放入一個stopwords文本文件里即可
def stop_words(texts):
    words_list = []
    word_generator = jieba.cut(texts, cut_all=False)  # 返回的是一個迭代器
    with open('stopwords.txt') as f:
        str_text = f.read()
        unicode_text = unicode(str_text, 'utf-8')  # 把str格式轉成unicode格式
        f.close()  # stopwords文本中詞的格式是'一詞一行'
    for word in word_generator:
        if word.strip() not in unicode_text:
            words_list.append(word)
    return ' '.join(words_list)  # 注意是空格


text = stop_words(text)

wc.generate(text)
# 基於彩色圖像生成相應彩色
image_colors = ImageColorGenerator(back_color)
# 顯示圖片
plt.imshow(wc)
# 關閉坐標軸
plt.axis('off')
# 繪制詞雲
plt.figure()
plt.imshow(wc.recolor(color_func=image_colors))
plt.axis('off')
# 保存圖片
wc.to_file('1.png')

word_cloud 生成詞雲有兩個方法。from text 和 from frequencies 。

即文本生成和頻率生成,每一個都有對應的函數可以使用

1 generate(text)      Generate wordcloud from text.
2 generate_from_text(text)    Generate wordcloud from text.
3 generate_from_frequencies      Create a word_cloud from words and frequencies.
4 fit_words      Create a word_cloud from words and frequencies.

wordcloud包的基本用法

1 class wordcloud.WordCloud(font_path=None, width=400, height=200, margin=2, 
2 ranks_only=None, prefer_horizontal=0.9,mask=None, scale=1, color_func=None, 
3 max_words=200, min_font_size=4, stopwords=None, random_state=None,background_color='black', 
4 max_font_size=None, font_step=1, mode='RGB', relative_scaling=0.5, regexp=None, 
5 collocations=True,colormap=None, normalize_plurals=True)
  1. font_path : string //字體路徑,需要展現什么字體就把該字體路徑+后綴名寫上,如:font_path = '黑體.ttf'
  2. width : int (default=400) //輸出的畫布寬度,默認為400像素
  3. height : int (default=200) //輸出的畫布高度,默認為200像素
  4. prefer_horizontal : float (default=0.90) //詞語水平方向排版出現的頻率,默認 0.9 (所以詞語垂直方向排版出現頻率為 0.1 
  5. mask : nd-array or None (default=None) //如果參數為空,則使用二維遮罩繪制詞雲。如果 mask 非空,設置的寬高值將被忽略,遮罩形狀被 mask 取代。
  6. 除全白(#FFFFFF)的部分將不會繪制,其余部分會用於繪制詞雲。如:bg_pic = imread('讀取一張圖片.png'),
  7. 背景圖片的畫布一定要設置為白色(#FFFFFF),然后顯示的形狀為不是白色的其他顏色。可以用ps工具將自己要顯示的形狀復制到一個純白色的畫布上再保存,就ok了。
  8. scale : float (default=1) //按照比例進行放大畫布,如設置為1.5,則長和寬都是原來畫布的1.5倍。
  9. min_font_size : int (default=4) //顯示的最小的字體大小
  10. font_step : int (default=1) //字體步長,如果步長大於1,會加快運算但是可能導致結果出現較大的誤差。
  11. max_words : number (default=200) //要顯示的詞的最大個數
  12. stopwords : set of strings or None //設置需要屏蔽的詞,如果為空,則使用內置的STOPWORDS
  13. background_color : color value (default=”black”) //背景顏色,如background_color='white',背景顏色為白色。
  14. max_font_size : int or None (default=None) //顯示的最大的字體大小
  15. mode : string (default=”RGB”) //當參數為“RGBA”並且background_color不為空時,背景為透明。
  16. relative_scaling : float (default=.5) //詞頻和字體大小的關聯性
  17. color_func : callable, default=None //生成新顏色的函數,如果為空,則使用 self.color_func
  18. regexp : string or None (optional) //使用正則表達式分隔輸入的文本
  19. collocations : bool, default=True //是否包括兩個詞的搭配
  20. colormap : string or matplotlib colormap, default=”viridis //給每個單詞隨機分配顏色,若指定color_func,則忽略該方法。
  21. fit_words(frequencies) //根據詞頻生成詞雲【frequencies,為字典類型】
  22. generate(text) //根據文本生成詞雲
  23. generate_from_frequencies(frequencies[, ...]) //根據詞頻生成詞雲
  24. generate_from_text(text) //根據文本生成詞雲
  25. process_text(text) //將長文本分詞並去除屏蔽詞(此處指英語,中文分詞還是需要自己用別的庫先行實現,使用上面的 fit_words(frequencies) 
  26. recolor([random_state, color_func, colormap]) //對現有輸出重新着色。重新上色會比重新生成整個詞雲快很多。
  27. to_array() //轉化為 numpy array
  28. to_file(filename) //輸出到文件


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM