由rvest函數包配合Selector Gadget工具實現R語言在網頁信息爬取上的應用這個方法, 與采用XML包和RCurl包進行爬取相比, 更加簡單, 代碼更加簡潔直觀。R中的rvest包將原本復雜的網頁爬蟲工作壓縮到讀取網頁, 檢索網頁和提取文本, 使其變得非常簡單, 而且根據網頁的規律, 運用for () 循環函數進行實現多張網頁的信息爬取。而使用XML包和RCurl包進行實現, 則需要一些關于網頁的基礎知識, 模擬瀏覽器行為偽裝報頭, 接著訪問頁面解析網頁, 然后定位節點獲取信息, 最后再將信息整合起來。該方法更為困難繁瑣, 在訪問網頁時有時并不能順利讀取解析, 并且在選取節點的時候需要HTML的基礎知識, 在網頁源代碼中找尋, 有些網頁的源代碼相當復雜, 并不易于定位節點。
兩種實現的方法所能達到的效果基本大同小異, 而且利用for () 循環函數可以實現多網頁數據的爬取, 從上手角度上講, rvest包顯示是更勝一籌, 是XML包和RCurl包的進化, 更加簡潔方便。而除此之外, 用Python實現網絡爬蟲也是很受歡迎。Python的pandas模塊工具借鑒了R的dataframes, 而R中的rvest包則參考了Python的Beautiful Soup, 兩種語言在一定程度上存在互補性。Python在實現網絡爬蟲上更有優勢, 但就網頁數據爬取方面而言, 基于R語言工具進行實現, 更加簡潔方便, 而且R在統計分析上是一種更高效的獨立數據分析工具, 運用R語言獲取的數據避免了平臺環境轉換的繁瑣, 從數據獲取、數據清洗到數據分析, 代碼環境、平臺保持了一致性。
本文地址:http://m.knowyourextract.com//article/20719.html