仔細看的話,會發現之前的詞頻分析並沒有什么卵用。。。文本分析真正的大哥是NLP,不過,這個坑太大,小白不大敢跳。。。不過還是忍不住在坑邊上往下瞅瞅2333. 言歸正傳,今天剛了解到boson公司有python關於自然語言處理的API,於是試着用了一下,官方文檔很不錯,簡單明了。首先是 ...
上一篇已經將數據抓到手了,那么來分析一下吧。這里是用python簡單處理數據,之后用EXCEL 作圖,沒錯,,,還是EXCEL。其實分析這些數據有更好的工具,比如R。。。不過目前不會啊,就先EXCEL湊活着用吧。 這里一共分析了三個方面:TOP word 時間與發帖量的關系,日期與發帖量的關系。 PROJECT :TOP WORD 注意這里的top words.txt是我用xlrd取出文字后保存 ...
2016-07-28 13:29 0 1674 推薦指數:
仔細看的話,會發現之前的詞頻分析並沒有什么卵用。。。文本分析真正的大哥是NLP,不過,這個坑太大,小白不大敢跳。。。不過還是忍不住在坑邊上往下瞅瞅2333. 言歸正傳,今天剛了解到boson公司有python關於自然語言處理的API,於是試着用了一下,官方文檔很不錯,簡單明了。首先是 ...
關於爬蟲,開始以為只能爬取網頁數據,后來知道APP也能抓取。於是,在學校利用空閑時間,耗時兩周實現了數據的抓取和簡單的數據分析。 目標,抓取超級課程表XX大學(其實是我們大學啦。。。)學生20000條發帖信息。思路如下: STEP1:為我們的爬蟲找到入口 ...
自學python爬蟲也快半年了,在目前看來,我面臨着三個待解決的爬蟲技術方面的問題:動態加載,多線程並發抓取,模擬登陸。目前正在不斷學習相關知識。下面簡單寫一下用selenium處理動態加載頁面相關的知識。目標——抓取頁面所有的高考錄取分數信息。 對於動態加載,開始的時候是看到 ...
本人呢,算是學統計的,就想着爬一下智聯的統計崗位信息,嗯,崗位很強勢。。。 這里用了requests,bs4進行抓取與解析,數據存入mysql數據庫。代碼比較亂,先湊和着看,有時間再整理吧。。。 import requests from bs4 import ...
還是上次的那個網站,就是它.現在嘗試用另一種辦法——直接請求json文件,來獲取要抓取的信息。 第一步,檢查元素,看圖如下: 過濾出JS文件,並找出包含要抓取信息的js ...
課程作業需要實現一個課程表,我負責完成學校的教務系統中課程表的導入工作。 需要解決兩個問題,第一個是教務系統訪問課程表所在url時,會被告知需要先加載某框架,這讓我很困擾,不知道如何用urlopen去解決這個問題;第二個問題是,不同的課程對應的課時是不一樣的,意味着顯示的時候rowspan值 ...
Java爬蟲爬取舊版正方教務系統課程表、成績表 一、項目展示 1.正方教務系統 首頁 2.爬蟲系統 首頁: 成績查詢: 課表查詢: 二、項目實現 1.爬取思路描述 無論是成績查詢或課表查詢亦或者其它的信息查詢 ...
離開公司已經十天,前段時間一直忙於准備考試,如今剩下最后一科,暫時緩一緩,寫一下實習總結。 超級課程表,相信90后的大學生都聽說過這個應用,這是一個十分優秀的應用,如果說全國每三位大學生就有一位在用超級課程表真的不過分,事實確實如此,產品和推廣運營都做得十分到位。同時,在公司實習的一個月 ...