一 . Java爬取B站彈幕
彈幕的存儲位置
如何通過B站視頻AV號找到彈幕對應的xml文件號
首先爬取視頻網頁,將對應視頻網頁源碼獲得
就可以找到該視頻的av號aid=8678034
還有彈幕序號,cid=14295428
彈幕存放位置為 http://comment.bilibili.com/14295428.xml
1 import org.apache.http.HttpEntity; 2 import org.apache.http.client.methods.CloseableHttpResponse; 3 import org.apache.http.client.methods.HttpGet; 4 import org.apache.http.impl.client.CloseableHttpClient; 5 import org.apache.http.impl.client.HttpClients; 6 import org.apache.http.util.EntityUtils; 7 import java.io.*; 8 import java.net.URL; 9 import java.util.regex.Matcher; 10 import java.util.regex.Pattern; 11 12 public class getBiliBiliBofqi { 13 public static boolean isInteger(String str) { 14 Pattern pattern = Pattern.compile("^[-\\+]?[\\d]*$"); 15 return pattern.matcher(str).matches(); 16 } 17 public static void getBofqi(String aid) throws Exception { 18 CloseableHttpClient closeableHttpClient = HttpClients.createDefault(); 19 HttpGet httpGet = new HttpGet("https://www.bilibili.com/video/av" + aid + "/"); 20 CloseableHttpResponse httpResponse = closeableHttpClient.execute(httpGet); 21 HttpEntity httpEntity = httpResponse.getEntity(); 22 String en = EntityUtils.toString(httpEntity); 23 //"cid=16496518&aid=9979006&pre_ad=" 24 String con = "cid=(.*)?&aid="; 25 Pattern ah = Pattern.compile(con); 26 Matcher mr = ah.matcher(en); 27 while (mr.find()) { 28 String id = mr.group(); 29 // 解析彈幕xml文件 30 String newUrl = id.replace("cid=", ""); 31 String x = newUrl.replace("&aid=", ""); 32 if(!isInteger(x)){ 33 return ; 34 } 35 URL url = new URL( "http://comment.bilibili.com/"+x+".xml" ); 36 HttpGet httpGet1 = new HttpGet("http://comment.bilibili.com/"+x+".xml"); 37 CloseableHttpResponse httpResponse1 = closeableHttpClient.execute(httpGet1) ; 38 HttpEntity httpEntity1 = httpResponse1.getEntity() ; 39 String en1 = EntityUtils.toString(httpEntity1,"utf-8") ; 40 41 String c = "\">(.*?)<"; 42 Pattern a = Pattern.compile(c); 43 Matcher m = a.matcher(en1); 44 RandomAccessFile randomAccessFile = new RandomAccessFile("E:\\dan_"+x+".txt", "rw"); 45 while (m.find()) { 46 String speak = m.group().replace("\">", ""); 47 speak = speak.replace("<", ""); 48 49 // 存儲彈幕 50 long len = randomAccessFile.length(); 51 randomAccessFile.seek(len); 52 randomAccessFile.write(speak.getBytes()); 53 randomAccessFile.write("\r\n".getBytes()); 54 System.out.println(speak); 55 } 56 randomAccessFile.write("\r\n".getBytes()); 57 randomAccessFile.close(); 58 } 59 } 60 public static void main(String[] args) throws Exception { 61 getBofqi("16772795"); 62 getBofqi("8542373"); 63 getBofqi("5112921"); 64 getBofqi("1747345"); 65 getBofqi("2648921"); 66 getBofqi("2333333"); 67 getBofqi("3771373"); 68 getBofqi("17224371"); 69 } 70 }
爬取的彈幕文件 :
運行結果:
二 . Python雲圖Wordcloud生成彈幕詞雲
1 github:https://github.com/amueller/word_cloud 2 官方地址:https://amueller.github.io/word_cloud/
# coding: utf-8 import jieba from scipy.misc import imread # 這是一個處理圖像的函數 from wordcloud import WordCloud, STOPWORDS, ImageColorGenerator import matplotlib.pyplot as plt back_color = imread('02.jpg') # 解析該圖片 wc = WordCloud(background_color='white', # 背景顏色 max_words=500, # 最大詞數 #mask=back_color, # 以該參數值作圖繪制詞雲,這個參數不為空時,width和height會被忽略 max_font_size=100, # 顯示字體的最大值 stopwords=STOPWORDS.add('fa'), # 使用內置的屏蔽詞,再添加'苟利國' font_path="C:/Windows/Fonts/STFANGSO.ttf", # 解決顯示口字型亂碼問題,可進入C:/Windows/Fonts/目錄更換字體 random_state=42, # 為每個詞返回一個PIL顏色 width=1000, # 圖片的寬 height=860 #圖片的長 ) # WordCloud各含義參數請點擊 wordcloud參數 # 打開詞源的文本文件 text = open('dan_6051409.txt').read() # 該函數的作用就是把屏蔽詞去掉,使用這個函數就不用在WordCloud參數中添加stopwords參數了 # 把你需要屏蔽的詞全部放入一個stopwords文本文件里即可 def stop_words(texts): words_list = [] word_generator = jieba.cut(texts, cut_all=False) # 返回的是一個迭代器 with open('stopwords.txt') as f: str_text = f.read() unicode_text = unicode(str_text, 'utf-8') # 把str格式轉成unicode格式 f.close() # stopwords文本中詞的格式是'一詞一行' for word in word_generator: if word.strip() not in unicode_text: words_list.append(word) return ' '.join(words_list) # 注意是空格 text = stop_words(text) wc.generate(text) # 基於彩色圖像生成相應彩色 image_colors = ImageColorGenerator(back_color) # 顯示圖片 plt.imshow(wc) # 關閉坐標軸 plt.axis('off') # 繪制詞雲 plt.figure() plt.imshow(wc.recolor(color_func=image_colors)) plt.axis('off') # 保存圖片 wc.to_file('1.png')
word_cloud 生成詞雲有兩個方法。from text 和 from frequencies 。
即文本生成和頻率生成,每一個都有對應的函數可以使用
1 generate(text) Generate wordcloud from text. 2 generate_from_text(text) Generate wordcloud from text. 3 generate_from_frequencies Create a word_cloud from words and frequencies. 4 fit_words Create a word_cloud from words and frequencies.
wordcloud包的基本用法
1 class wordcloud.WordCloud(font_path=None, width=400, height=200, margin=2, 2 ranks_only=None, prefer_horizontal=0.9,mask=None, scale=1, color_func=None, 3 max_words=200, min_font_size=4, stopwords=None, random_state=None,background_color='black', 4 max_font_size=None, font_step=1, mode='RGB', relative_scaling=0.5, regexp=None, 5 collocations=True,colormap=None, normalize_plurals=True)
font_path : string //字體路徑,需要展現什么字體就把該字體路徑+后綴名寫上,如:font_path = '黑體.ttf'
width : int (default=400) //輸出的畫布寬度,默認為400像素
height : int (default=200) //輸出的畫布高度,默認為200像素
prefer_horizontal : float (default=0.90) //詞語水平方向排版出現的頻率,默認 0.9 (所以詞語垂直方向排版出現頻率為 0.1 )
mask : nd-array or None (default=None) //如果參數為空,則使用二維遮罩繪制詞雲。如果 mask 非空,設置的寬高值將被忽略,遮罩形狀被 mask 取代。
除全白(#FFFFFF)的部分將不會繪制,其余部分會用於繪制詞雲。如:bg_pic = imread('讀取一張圖片.png'),
背景圖片的畫布一定要設置為白色(#FFFFFF),然后顯示的形狀為不是白色的其他顏色。可以用ps工具將自己要顯示的形狀復制到一個純白色的畫布上再保存,就ok了。
scale : float (default=1) //按照比例進行放大畫布,如設置為1.5,則長和寬都是原來畫布的1.5倍。
min_font_size : int (default=4) //顯示的最小的字體大小
font_step : int (default=1) //字體步長,如果步長大於1,會加快運算但是可能導致結果出現較大的誤差。
max_words : number (default=200) //要顯示的詞的最大個數
stopwords : set of strings or None //設置需要屏蔽的詞,如果為空,則使用內置的STOPWORDS
background_color : color value (default=”black”) //背景顏色,如background_color='white',背景顏色為白色。
max_font_size : int or None (default=None) //顯示的最大的字體大小
mode : string (default=”RGB”) //當參數為“RGBA”並且background_color不為空時,背景為透明。
relative_scaling : float (default=.5) //詞頻和字體大小的關聯性
color_func : callable, default=None //生成新顏色的函數,如果為空,則使用 self.color_func
regexp : string or None (optional) //使用正則表達式分隔輸入的文本
collocations : bool, default=True //是否包括兩個詞的搭配
colormap : string or matplotlib colormap, default=”viridis” //給每個單詞隨機分配顏色,若指定color_func,則忽略該方法。
fit_words(frequencies) //根據詞頻生成詞雲【frequencies,為字典類型】
generate(text) //根據文本生成詞雲
generate_from_frequencies(frequencies[, ...]) //根據詞頻生成詞雲
generate_from_text(text) //根據文本生成詞雲
process_text(text) //將長文本分詞並去除屏蔽詞(此處指英語,中文分詞還是需要自己用別的庫先行實現,使用上面的 fit_words(frequencies) )
recolor([random_state, color_func, colormap]) //對現有輸出重新着色。重新上色會比重新生成整個詞雲快很多。
to_array() //轉化為 numpy array
to_file(filename) //輸出到文件