月薪2萬的爬蟲工程師,Python需要學到什么程度?


Python 爬蟲學到什么樣就可以找工作了?

非計算機專業,正在自學python,很多教程里提到的網站的爬蟲都會寫了。比如拉勾網,豆瓣,實習僧,京東,淘寶,某妹子圖等等……但是因為不是計算機專業的,也沒學所謂的四大名著,不知道那四大對找工作重要嗎?給一個網站去寫一個爬蟲,基本上會了,該怎么進階呢?希望各位大神給點建議。

另外大家注意:光理論是不夠的。這里順便總大家一套2020最新python入門到高級項目實戰視頻教程,可以去小編的Python交流.裙 :七衣衣九七七巴而五(數字的諧音)轉換下可以找到了,還可以跟老司機交流討教!

做爬蟲工程師的的薪資為20K起,當然,因為大數據,薪資也將一路上揚。那么,Python需要學到什么程度呢?今天我們來看看3位前輩的回答。

1

前段時間快要畢業,而我又不想找自己的老本行Java開發了,所以面了很多Python爬蟲崗位。

因為我在南京上學,所以我一開始只是在南京投了簡歷,我一共面試了十幾家企業,其中只有一家沒有給我發offer,其他企業都願意給到10K的薪資,不要拿南京的薪資水平和北上深的薪資水平比較,結合面試常問的問題類型說一說我的心得體會。

第一點:Python

因為面試的是Python爬蟲崗位,面試官大多數會考察面試者的基礎的Python知識,包括但不限於:

Python2.x與Python3.x的區別

Python的裝飾器

Python的異步

Python的一些常用內置庫,比如多線程之類的

第二點:數據結構與算法

數據結構與算法是對面試者尤其是校招生面試的一個很重要的點,當然小公司不會太在意這些,從目前的招聘情況來看對面試者的數據結構與算法的重視程度與企業的好壞成正比,那些從不問你數據結構的你就要當心他們是否把你當碼農用的,當然以上情況不絕對,最終解釋權歸面試官所有。

第三點:Python爬蟲

最重要也是最關鍵的一點當然是你的Python爬蟲相關的知識與經驗儲備,這通常也是面試官考察的重點,包括但不限於:

你遇到過的反爬蟲的策略有哪些?

你常用的反反爬蟲的方案有哪些?

你用過多線程和異步嗎?除此之外你還用過什么方法來提高爬蟲效率?

有沒有做過增量式抓取?

對Python爬蟲框架是否有了解?

第四點:爬蟲相關的項目經驗

爬蟲重在實踐,除了理論知識之外,面試官也會十分注重爬蟲相關的項目:

你做過哪些爬蟲項目?如果有Github最好

你認為你做的最好的爬蟲項目是哪個?其中解決了什么難題?有什么特別之處?

以上是我在面試過程中,會碰到的一些技術相關的問題的總結,當然面試中不光是技術這一點,但是對於做技術的,過了技術面基本上就是薪資問題了。

也許有人問我現在在哪家公司做爬蟲開發?很抱歉,最終我放棄了南京的所有機會到了上海做我更喜歡的崗位:數據工程師

2

給你一點我的面經吧。

初級的:

網絡基礎:cookie,session,https,headers常用的字段,代理使用等等

python基礎:這個網上搜到的面經都得會,加上異步,多進程,多線程等等

爬蟲:xpath,requests如何處理https,常見的反爬措施,舉例說一個最難的爬蟲過程,scrapy使用中的細節,例如代理,cookie,傳參等等。

數據庫:數據庫操作,並表之類的。

中級:

網絡:幾層網絡層的細節,比如說說udp/tcp/smtp區別,說說10.x.x.x/127.x.x.x/192.x.x.x的區別,說說DNS,談談路由交換機的區別

python:多重繼承,多態,單例用裝飾器的實現,數組/生成器/列表解析效率等等稍深入的細節

爬蟲:分布式爬蟲的實現,給你一個任務你馬上給出一個合理的架構,驗證碼的處理,增量數據爬取,寫爬蟲時有沒寫些輔助工具。

數據庫:sql nosql的細節,性能上的。

加分項:數據挖掘,機器學習,自然語言處理,能寫網站,熟練操作linux,github小星星

3

首先說說Python吧

爬蟲給人的感覺就是對於Python編程的知識要求並不高,確實,搞懂基本數據結構、語句,會寫寫函數好像就OK了。

自己業余玩玩爬點數據還OK,但是你是要找工作成功爬蟲工程師的,扎實的編程基礎可不是會寫函數就夠了的。Python的高級特性、面向對象編程、多線程、裝飾器等等你至少需要了解一下吧。

現在很多爬蟲工程師的面試,編程的基本功要求還是很高的。編程的功底,以及對語言的理解,從某種程度上可以看出你的學習能力、發展潛力。

爬蟲技術

HTTP必須要有很深刻的理解,這是你縱橫網絡的立身之本;

BeautifulSoup、xpath這些都是基礎操作了,一定要做到非常熟練;

Scrapy框架要會用,要能信手捏來寫個分布式爬蟲;

Webdriver、Selenium、PhantomJS至少也要會使用吧;

反爬蟲的技巧,重中之重,能不能搞回來數據,能高多少數據回來,很大程度依賴於此。抓包、cookie分析、代理池搭建、字體加密、驗證碼處理等等,也都是常規操作了;

當然數據庫也少不了啊。一般企業要求至少會一種SQL和一種noSQL。

了解布隆過濾器,會增量爬取。

加分項:

掌握Python web相關的一些東西,能夠進行后端開發;

掌握數據分析或者數據挖掘的技能,能夠搞個算法模型,做個分析和預測。
最后注意:光理論是不夠的。這里順便總大家一套2020最新python入門到高級項目實戰視頻教程,可以去小編的Python交流.裙 :七衣衣九七七巴而五(數字的諧音)轉換下可以找到了,還可以跟老司機交流討教!

本文的文字及圖片來源於網絡加上自己的想法,僅供學習、交流使用,不具有任何商業用途,版權歸原作者所有,如有問題請及時聯系我們以作處理。


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM