[[397000]]

大家好，我是杯酒先生，這是我第一次寫這種分享項目的文章，可能很水，很不全面，而且肯定存在說錯的地方，希望大家可以評論里加以指點，不勝感激!

一、前言

網絡爬蟲(又稱為網頁蜘蛛，網絡機器人)，是一種按照一定的規則，自動地抓取萬維網信息的程序或者腳本。另外一些不常使用的名字還有螞蟻、自動索引、模擬程序或者蠕蟲。------百度百科

說人話就是，爬蟲是用來海量規則化獲取數據，然后進行處理和運用，在大數據、金融、機器學習等等方面都是必須的支撐條件之一。

目前在一線城市中，爬蟲的崗位薪資待遇都是比較客觀的，之后提升到中、高級爬蟲工程師，數據分析師、大數據開發崗位等，都是很好的過渡。

二、項目目標

本此介紹的項目其實不用想的太過復雜，最終要實現的目標也就是將帖子的每條評論爬取到數據庫中，并且做到可以更新數據，防止重復爬取，反爬等措施。

三、項目準備

這部分主要是介紹本文需要用到的工具，涉及的庫，網頁等信息等

軟件：PyCharm

需要的庫：Scrapy， selenium， pymongo， user_agent，datetime

目標網站：

http://bbs.foodmate.net 

插件：chromedriver(版本要對)

四、項目分析

1、確定爬取網站的結構

簡而言之：確定網站的加載方式，怎樣才能正確的一級一級的進入到帖子中抓取數據，使用什么格式保存數據等。

其次，觀察網站的層級結構，也就是說，怎么根據板塊，一點點進入到帖子頁面中，這對本次爬蟲任務非常重要，也是主要編寫代碼的部分。

2、如何選擇合適的方式爬取數據?

目前我知道的爬蟲方法大概有如下(不全，但是比較常用)：

1)request框架：運用這個http庫可以很靈活的爬取需要的數據，簡單但是過程稍微繁瑣，并且可以配合抓包工具對數據進行獲取。但是需要確定headers頭以及相應的請求參數，否則無法獲取數據;很多app爬取、圖片視頻爬取隨爬隨停，比較輕量靈活，并且高并發與分布式部署也非常靈活，對于功能可以更好實現。

2)scrapy框架：scrapy框架可以說是爬蟲最常用，最好用的爬蟲框架了，優點很多：scrapy 是異步的;采取可讀性更強的 xpath 代替正則;強大的統計和 log 系統;同時在不同的 url 上爬行;支持 shell 方式，方便獨立調試;支持寫 middleware方便寫一些統一的過濾器;可以通過管道的方式存入數據庫等等。這也是本次文章所要介紹的框架(結合selenium庫)。

五、項目實現

1、第一步：確定網站類型

首先解釋一下是什么意思，看什么網站，首先要看網站的加載方式，是靜態加載，還是動態加載(js加載)，還是別的方式;根據不一樣的加載方式需要不同的辦法應對。然后我們觀察今天爬取的網站，發現這是一個有年代感的論壇，首先猜測是靜態加載的網站;我們開啟組織 js 加載的插件，如下圖所示。

刷新之后發現確實是靜態網站(如果可以正常加載基本都是靜態加載的)。

2、第二步：確定層級關系

其次，我們今天要爬取的網站是食品論壇網站，是靜態加載的網站，在之前分析的時候已經了解了，然后是層級結構：

大概是上面的流程，總共有三級遞進訪問，之后到達帖子頁面，如下圖所示。

部分代碼展示：

一級界面：

def parse(self, response): 
    self.logger.info("已進入網頁！") 
    self.logger.info("正在獲取版塊列表！") 
    column_path_list = response.css('#ct > div.mn > div:nth-child(2) > div')[:-1] 
    for column_path in column_path_list: 
        col_paths = column_path.css('div > table > tbody > tr > td > div > a').xpath('@href').extract() 
        for path in col_paths: 
            block_url = response.urljoin(path) 
            yield scrapy.Request( 
                url=block_url, 
                callback=self.get_next_path, 
            ) 

二級界面：

def get_next_path(self, response): 
    self.logger.info("已進入版塊！") 
    self.logger.info("正在獲取文章列表！") 
    if response.url == 'http://www.foodmate.net/know/': 
        pass 
    else: 
        try: 
            nums = response.css('#fd_page_bottom > div > label > span::text').extract_first().split(' ')[-2] 
        except: 
            nums = 1 
        for num in range(1, int(nums) + 1): 
            tbody_list = response.css('#threadlisttableid > tbody') 
            for tbody in tbody_list: 
                if 'normalthread' in str(tbody): 
                    item = LunTanItem() 
                    item['article_url'] = response.urljoin( 
                        tbody.css('* > tr > th > a.s.xst').xpath('@href').extract_first()) 
                    item['type'] = response.css( 
                        '#ct > div > div.bm.bml.pbn > div.bm_h.cl > h1 > a::text').extract_first() 
                    item['title'] = tbody.css('* > tr > th > a.s.xst::text').extract_first() 
                    item['spider_type'] = "論壇" 
                    item['source'] = "食品論壇" 
                    if item['article_url'] != 'http://bbs.foodmate.net/': 
                        yield scrapy.Request( 
                            url=item['article_url'], 
                            callback=self.get_data, 
                            meta={'item': item, 'content_info': []} 
                        ) 
        try: 
            callback_url = response.css('#fd_page_bottom > div > a.nxt').xpath('@href').extract_first() 
            callback_url = response.urljoin(callback_url) 
            yield scrapy.Request( 
                url=callback_url, 
                callback=self.get_next_path, 
            ) 
        except IndexError: 
            pass 

三級界面：

def get_data(self, response): 
    self.logger.info("正在爬取論壇數據！") 
    item = response.meta['item'] 
    content_list = [] 
    divs = response.xpath('//*[@id="postlist"]/div') 
    user_name = response.css('div > div.pi > div:nth-child(1) > a::text').extract() 
    publish_time = response.css('div.authi > em::text').extract() 
    floor = divs.css('* strong> a> em::text').extract() 
    s_id = divs.xpath('@id').extract() 
    for i in range(len(divs) - 1): 
        content = '' 
        try: 
 
            strong = response.css('#postmessage_' + s_id[i].split('_')[-1] + '').xpath('string(.)').extract() 
            for s in strong: 
                content += s.split(';')[-1].lstrip('\r\n') 
            datas = dict(content=content,  # 內容 
                         reply_id=0,  # 回復的樓層,默認0 
                         user_name=user_name[i],  # ⽤戶名 
                         publish_time=publish_time[i].split('于 ')[-1],  # %Y-%m-%d %H:%M:%S' 
                         id='#' + floor[i],  # 樓層 
                         ) 
            content_list.append(datas) 
        except IndexError: 
            pass 
    item['content_info'] = response.meta['content_info'] 
    item['scrawl_time'] = datetime.now().strftime('%Y-%m-%d %H:%M:%S') 
    item['content_info'] += content_list 
 
    data_url = response.css('#ct > div.pgbtn > a').xpath('@href').extract_first() 
    if data_url != None: 
        data_url = response.urljoin(data_url) 
        yield scrapy.Request( 
            url=data_url, 
            callback=self.get_data, 
            meta={'item': item, 'content_info': item['content_info']} 
        ) 
    else: 
        item['scrawl_time'] = datetime.now().strftime('%Y-%m-%d %H:%M:%S') 
        self.logger.info("正在存儲！") 
        print('儲存成功') 
        yield item 

3、第三步：確定爬取方法

由于是靜態網頁，首先決定采用的是scrapy框架直接獲取數據，并且通過前期測試發現方法確實可行，不過當時年少輕狂，小看了網站的保護措施，由于耐心有限，沒有加上定時器限制爬取速度，導致我被網站加了限制，并且網站由靜態加載網頁變為：動態加載網頁驗證算法之后再進入到該網頁，直接訪問會被后臺拒絕。

但是這種問題怎么會難道我這小聰明，經過我短暫地思考(1天)，我將方案改為scrapy框架 + selenium庫的方法，通過調用chromedriver，模擬訪問網站，等網站加載完了再爬取不就完了，后續證明這個方法確實可行，并且效率也不錯。

實現部分代碼如下：

def process_request(self, request, spider): 
    chrome_options = Options() 
    chrome_options.add_argument('--headless')  # 使用無頭谷歌瀏覽器模式 
    chrome_options.add_argument('--disable-gpu') 
    chrome_options.add_argument('--no-sandbox') 
    # 指定谷歌瀏覽器路徑 
    self.driver = webdriver.Chrome(chrome_options=chrome_options, 
                                   executable_path='E:/pycharm/workspace/爬蟲/scrapy/chromedriver') 
    if request.url != 'http://bbs.foodmate.net/': 
        self.driver.get(request.url) 
        html = self.driver.page_source 
        time.sleep(1) 
        self.driver.quit() 
        return scrapy.http.HtmlResponse(url=request.url, body=html.encode('utf-8'), encoding='utf-8', 
                                        request=request) 

4、第四步：確定爬取數據的儲存格式

這部分不用多說，根據自己需求，將需要爬取的數據格式設置在items.py中。在工程中引用該格式保存即可：

class LunTanItem(scrapy.Item): 
    """ 
        論壇字段 
    """ 
    title = Field()  # str: 字符類型 | 論壇標題 
    content_info = Field()  # str: list類型 | 類型list: [LunTanContentInfoItem1, LunTanContentInfoItem2] 
    article_url = Field()  # str: url | 文章鏈接 
    scrawl_time = Field()  # str: 時間格式 參照如下格式 2019-08-01 10:20:00 | 數據爬取時間 
    source = Field()  # str: 字符類型 | 論壇名稱 eg: 未名BBS, 水木社區, 天涯論壇 
    type = Field()  # str: 字符類型 | 板塊類型 eg: '財經', '體育', '社會' 
    spider_type = Field()  # str: forum | 只能寫 'forum' 

5、第五步：確定保存數據庫

本次項目選擇保存的數據庫為mongodb，由于是非關系型數據庫，優點顯而易見，對格式要求沒有那么高，可以靈活儲存多維數據，一般是爬蟲優選數據庫(不要和我說redis，會了我也用，主要是不會)

代碼：

import pymongo 
 
class FMPipeline(): 
    def __init__(self): 
        super(FMPipeline, self).__init__() 
        # client = pymongo.MongoClient('139.217.92.75') 
        client = pymongo.MongoClient('localhost') 
        db = client.scrapy_FM 
        self.collection = db.FM 
 
    def process_item(self, item, spider): 
        query = { 
            'article_url': item['article_url'] 
        } 
        self.collection.update_one(query, {"$set": dict(item)}, upsert=True) 
        return item 

這時，有聰明的盆友就會問：如果運行兩次爬取到了一樣的數據怎么辦呢?(換句話說就是查重功能)

這個問題之前我也沒有考慮，后來在我詢問大佬的過程中知道了，在我們存數據的時候就已經做完這件事了，就是這句：

query = { 
    'article_url': item['article_url'] 
} 
self.collection.update_one(query, {"$set": dict(item)}, upsert=True) 

通過帖子的鏈接確定是否有數據爬取重復，如果重復可以理解為將其覆蓋，這樣也可以做到更新數據。

6、其他設置

像多線程、headers頭，管道傳輸順序等問題，都在settings.py文件中設置，具體可以參考小編的項目去看，這里不再贅述。

七、效果展示

1、點擊運行，結果顯示在控制臺，如下圖所示。

2、中間會一直向隊列中堆很多帖子的爬取任務，然后多線程處理，我設置的是16線程，速度還是很可觀的。

3、數據庫數據展示：

content_info中存放著每個帖子的全部留言以及相關用戶的公開信息。

八、總結

1、這篇文章主要給大家介紹了食品網站的數據采集和存儲過程，詳解了如何分析網頁結構、爬蟲策略、網站類型、層級關系、爬蟲方法和數據存儲過程，最終實現將帖子的每條評論爬取到數據庫中，并且做到可以更新數據，防止重復爬取，反爬等，干貨滿滿。

2、本次項目總的來說，不是特別難搞，只要思路對了，找到了數據規則，爬起來可以說易如反掌，覺得難只是之前沒有完整走過流程，有了這次比較水的介紹，希望能對你有所幫助，那將是我最大的榮幸。

3、遇到問題首先想的不是問同事，朋友，老師，而是去谷歌，百度，看有沒有相似的情況，看別人的經歷，一定要學會自己發現問題，思考問題，解決問題，這對于之后工作有非常大的幫助(我之前就被說過還沒有脫離學生時代，就是我喜歡問同事)，等網上查詢了一定資料了，還是沒有頭緒，再去問別人，別人也會比較愿意幫助你的~

我是杯酒先生，最后分享我的座右銘給大家：保持獨立思考，不卑不亢不慫。

最后需要本文項目代碼的小伙伴，請在公眾號后臺回復“食品論壇”關鍵字進行獲取，如果在運行過程中有遇到任何問題，請隨時留言或者加小編好友，小編看到會幫助大家解決bug噢!