Python爬蟲工具篇 - 必會(huì)用的6款Chrome插件
在日常 PC 端的Python爬蟲過程工作中,Chrome 瀏覽器是我們常用的一款工具。
鑒于 Chrome 瀏覽器的強(qiáng)大,Chrome 網(wǎng)上應(yīng)用商店很多強(qiáng)大的插件可以幫助我們快速高效地進(jìn)行數(shù)據(jù)爬蟲。
今天推薦的 6 款 Chrome 插件,可以大大提升我們的爬蟲效率。
EditThisCookie

EditThisCookie 是一個(gè) Cookie 管理器,可以很方便的添加,刪除,編輯,搜索,鎖定和屏蔽 Cookies。
可以將登錄后的 Cookies 先保存到本地,借助 cookielib 庫,直接爬取登錄后的數(shù)據(jù)。
避免了抓包和模擬登錄,幫助我們快速地進(jìn)行爬蟲。
Web Scraper

Web Scraper 是一款免費(fèi)的、適用于任何人,包含沒有任何編程基礎(chǔ)的爬蟲工具。
操作簡(jiǎn)單,只需要鼠標(biāo)點(diǎn)擊和簡(jiǎn)單的配置,就能快速的爬取 Web 端的數(shù)據(jù)。它支持復(fù)雜的網(wǎng)站結(jié)構(gòu),數(shù)據(jù)支持文本、連接、數(shù)據(jù)塊、下拉加載數(shù)據(jù)塊等各種數(shù)據(jù)類型。
此外,還能將爬取的數(shù)據(jù)導(dǎo)出到 CSV 文件中。
Xpath Helper

Xpath Helper 是一種結(jié)構(gòu)化網(wǎng)頁元素選擇器,支持列表和單節(jié)點(diǎn)數(shù)據(jù)獲取,
它可以快速地定位網(wǎng)頁元素。
對(duì)比 Beautiful Soup,由于 Xpath 網(wǎng)頁元素查找性能更有優(yōu)勢(shì);Xpath 相比正則表達(dá)式編寫起來更方便。
編寫 Xpath 之后會(huì)實(shí)時(shí)顯示匹配的數(shù)目和對(duì)應(yīng)的位置,方便我們判斷語句是否編寫正確。
Toggle JavaScript

Toggle JavaScript 插件可以用來檢測(cè)當(dāng)前網(wǎng)頁哪些元素是通過 AJAX 動(dòng)態(tài)加載的。
使用它可以快速在容許加載 JS 、禁止加載 JS 兩種模式中切換。
User-Agent Switcher for Chrome

User-Agent Switcher for Chrome 插件可以很方便的修改瀏覽器的 User-Agent。
可以模擬不同的瀏覽器、客戶端,包含 Android、IOS 去模擬請(qǐng)求。
對(duì)于一些特殊網(wǎng)站,切換 User-Agent 可以更方便地進(jìn)行數(shù)據(jù)爬取。
JSON-handle

JSON-handle 是一款功能強(qiáng)大的 JSON 數(shù)據(jù)解析 Chrome 插件。
它以簡(jiǎn)單清晰的樹形圖樣式展現(xiàn) JSON 文檔,并可實(shí)時(shí)編輯。
針對(duì)數(shù)據(jù)量大的場(chǎng)景,可以做局部選取分析。