精品欧美一区二区三区在线观看 _久久久久国色av免费观看性色_国产精品久久在线观看_亚洲第一综合网站_91精品又粗又猛又爽_小泽玛利亚一区二区免费_91亚洲精品国偷拍自产在线观看 _久久精品视频在线播放_美女精品久久久_欧美日韩国产成人在线

基于微博數據用 Python 打造一顆“心”

大數據
requests 用于網絡請求爬取微博數據,結巴分詞進行中文分詞處理,詞云處理庫 wordcloud,圖片處理庫 Pillow,科學計算工具 NumPy ,類似于 MATLAB 的 2D 繪圖庫 Matplotlib。

一年一度的虐狗節終于過去了,朋友圈各種曬,曬自拍,曬娃,曬美食,秀恩愛的。程序員在曬什么,程序員在加班。但是禮物還是少不了的,送什么好?作為程序員,我準備了一份特別的禮物,用以往發的微博數據打造一顆“愛心”,我想她一定會感動得哭了吧。哈哈?。?!

準備工作

有了想法之后就開始行動了,自然***想到的就是用 Python 了,大體思路就是把微博數據爬下來,數據經過清洗加工后再進行分詞處理,處理后的數據交給詞云工具,配合科學計算工具和繪圖工具制作成圖像出來,涉及到的工具包有:

requests 用于網絡請求爬取微博數據,結巴分詞進行中文分詞處理,詞云處理庫 wordcloud,圖片處理庫 Pillow,科學計算工具 NumPy ,類似于 MATLAB 的 2D 繪圖庫 Matplotlib。

工具安裝

安裝這些工具包時,不同系統平臺有可能出現不一樣的錯誤,wordcloud,requests,jieba 都可以通過普通的 pip 方式在線安裝,

  1. pip install wordcloud 
  2. pip install requests 
  3. pip install jieba 

在Windows 平臺安裝 Pillow,NumPy,Matplotlib 直接用 pip 在線安裝會出現各種問題,推薦的一種方式是在一個叫 Python Extension Packages for Windows 1 的第三方平臺下載 相應的 .whl 文件安裝??梢愿鶕约旱南到y環境選擇下載安裝 cp27 對應 python2.7,amd64 對應 64 位系統。下載到本地后進行安裝

  1. pip install Pillow-4.0.0-cp27-cp27m-win_amd64.whl 
  2. pip install scipy-0.18.0-cp27-cp27m-win_amd64.whl 
  3. pip install numpy-1.11.3+mkl-cp27-cp27m-win_amd64.whl 
  4. pip install matplotlib-1.5.3-cp27-cp27m-win_amd64.whl 

其他平臺可根據錯誤提示 Google 解決?;蛘咧苯踊?Anaconda 開發,它是 Python 的一個分支,內置了大量科學計算、機器學習的模塊 。

獲取數據

新浪微博官方提供的 API 是個渣渣,只能獲取用戶***發布的5條數據,退而求其次,使用爬蟲去抓取數據,抓取前先評估難度,看看是否有人寫好了,在GitHub逛了一圈,基本沒有滿足需求的。倒是給我提供了一些思路,于是決定自己寫爬蟲。使用 http://m.weibo.cn/ 移動端網址去爬取數據。發現接口 http://m.weibo.cn/index/my?format=cards&page=1 可以分頁獲取微博數據,而且返回的數據是 json 格式,這樣就省事很多了,不過該接口需要登錄后的 cookies 信息,登錄自己的帳號就可以通過 Chrome 瀏覽器 找到 Cookies 信息。

實現代碼:

  1. def fetch_weibo(): 
  2.     api = "http://m.weibo.cn/index/my?format=cards&page=%s" 
  3.     for i in range(1, 102): 
  4.         response = requests.get(url=api % i, cookies=cookies) 
  5.         data = response.json()[0] 
  6.         groups = data.get("card_group"or [] 
  7.         for group in groups: 
  8.             text = group.get("mblog").get("text"
  9.             text = text.encode("utf-8"
  10.             text = cleanring(text).strip() 
  11.             yield text 

查看微博的總頁數是101,考慮到一次性返回一個列表對象太費內存,函數用 yield 返回一個生成器,此外還要對文本進行數據清洗,例如去除標點符號,HTML 標簽,“轉發微博”這樣的字樣。

保存數據

數據獲取之后,我們要把它離線保存起來,方便下次重復使用,避免重復地去爬取。使用 csv 格式保存到 weibo.csv 文件中,以便下一步使用。數據保存到 csv 文件中打開的時候可能為亂碼,沒關系,用 notepad++查看不是亂碼。

  1. def write_csv(texts): 
  2.     with codecs.open('weibo.csv''w'as f: 
  3.         writer = csv.DictWriter(f, fieldnames=["text"]) 
  4.         writer.writeheader() 
  5.         for text in texts: 
  6.             writer.writerow({"text": text}) 
  7.  
  8. def read_csv(): 
  9.     with codecs.open('weibo.csv''r'as f: 
  10.         reader = csv.DictReader(f) 
  11.         for row in reader: 
  12.             yield row['text'

分詞處理

從 weibo.csv 文件中讀出來的每一條微博進行分詞處理后再交給 wordcloud 生成詞云。結巴分詞適用于大部分中文使用場景,使用停止詞庫 stopwords.txt 把無用的信息(比如:的,那么,因為等)過濾掉。

  1. def word_segment(texts): 
  2.     jieba.analyse.set_stop_words("stopwords.txt"
  3.     for text in texts: 
  4.         tags = jieba.analyse.extract_tags(text, topK=20) 
  5.         yield " ".join(tags) 

生成圖片

數據分詞處理后,就可以給 wordcloud 處理了,wordcloud 根據數據里面的各個詞出現的頻率、權重按比列顯示關鍵字的字體大小。生成方形的圖像,如圖:

是的,生成的圖片毫無美感,畢竟是要送人的也要拿得出手才好炫耀對吧,那么我們找一張富有藝術感的圖片作為模版,臨摹出一張漂亮的圖出來。我在網上搜到一張“心”型圖:

生成圖片代碼:

  1. def generate_img(texts): 
  2.     data = " ".join(text for text in texts) 
  3.     mask_img = imread('./heart-mask.jpg', flatten=True
  4.     wordcloud = WordCloud( 
  5.         font_path='msyh.ttc'
  6.         background_color='white'
  7.         mask=mask_img 
  8.     ).generate(data) 
  9.     plt.imshow(wordcloud) 
  10.     plt.axis('off'
  11.     plt.savefig('./heart.jpg', dpi=600) 

需要注意的是處理時,需要給 matplotlib 指定中文字體,否則會顯示亂碼,找到字體文件夾:C:\Windows\Fonts\Microsoft YaHei UI復制該字體,拷貝到 matplotlib 安裝目錄:C:\Python27\Lib\site-packages\matplotlib\mpl-data\fonts\ttf 下

差不多就這樣。

責任編輯:武曉燕 來源: 36大數據
相關推薦

2017-02-24 19:32:39

微博數據Python

2022-12-27 14:29:37

javascript動畫

2014-07-30 16:19:13

敏捷華為

2015-05-18 16:12:32

信息化轉型油氣行業華為

2013-04-16 13:57:36

2020-06-30 15:38:17

戴爾

2024-06-11 08:32:37

JavaScrip隨機樹UI

2009-06-10 18:15:36

電腦下鄉家電下鄉

2013-09-29 11:08:10

Bay Trail平板電腦

2022-08-26 12:13:40

黑客網絡攻擊

2010-07-30 15:58:18

2021-12-24 11:58:20

Shell腳本圣誕樹編程語言

2015-11-20 17:30:34

天翼

2021-06-30 13:20:05

Windows 11芯片PC

2009-04-21 18:04:04

雙核Nehalemintel

2021-03-15 14:17:38

射頻芯片5G手機信號

2011-12-20 14:33:03

傲游瀏覽器微博

2015-01-12 11:07:22

2021-01-21 21:14:53

人工智能AIOpenAI
點贊
收藏

51CTO技術棧公眾號

最新av网站在线观看| 一区二区精品免费| 午夜小视频福利在线观看| 国产不卡免费视频| 欧美在线视频一区二区| 精品欧美一区二区久久久| 久久久久久一区二区三区四区别墅| ●精品国产综合乱码久久久久| 成人av男人的天堂| 免费黄色网址在线| 影音先锋日韩在线| 日韩av中文在线| 日韩av在线中文| 美女网站视频在线| 国产精品嫩草99a| 好吊色欧美一区二区三区视频| 亚洲精品国产精品国自产网站按摩| 欧美不卡视频| 一区二区三区无码高清视频| av影片在线播放| 欧美理论影院| 日韩激情图片| 精品国内片67194| 三级a在线观看| 欧美xxxx视频| 国产精品久久福利| 欧美日韩精品久久| 99热在线只有精品| 蜜臀av在线播放一区二区三区| 久久频这里精品99香蕉| 亚洲女人毛茸茸高潮| 天天操综合520| 日韩美女主播在线视频一区二区三区| 亚洲精品自在在线观看| 欧美一级一区二区三区| 黄色av成人| 日韩中文字幕不卡视频| 30一40一50老女人毛片| 成人在线tv视频| 日韩一区二区三区四区| 岛国毛片在线播放| 欧洲亚洲两性| 一本色道久久综合亚洲精品按摩| 妞干网在线播放| av网站在线免费看推荐| 一区视频在线播放| 翔田千里亚洲一二三区| 免费在线国产| 久久久久国色av免费看影院| 日韩暖暖在线视频| 日韩av一二三区| 国产综合婷婷| 欧美激情18p| 亚洲啪av永久无码精品放毛片 | 超碰日本道色综合久久综合| 最新中文字幕av| 精品国产中文字幕第一页| 欧美亚洲图片小说| 亚洲中文字幕无码不卡电影| 中文字幕在线官网| 日韩欧美亚洲成人| 日av中文字幕| 日韩中文在线播放| 欧美三级资源在线| 久久久久久久高清| 激情网站在线| 国产一区二区在线视频| 91精品国产自产在线老师啪| 亚洲影视一区二区| 看电视剧不卡顿的网站| 亚洲aⅴ男人的天堂在线观看| 国产sm主人调教女m视频| 国产91精品一区二区麻豆网站| 成人av男人的天堂| 无码精品在线观看| 国产精品网站一区| 中国一级黄色录像| 草美女在线观看| 日韩人在线观看| mm131亚洲精品| 欧州一区二区三区| 亚洲第一偷拍网| 久久国产精品无码一级毛片| 日本女优一区| 欧美风情在线观看| 少妇太紧太爽又黄又硬又爽| 日本91福利区| 久久久久一本一区二区青青蜜月| 久久精品美女视频| 亚洲一区二区网站| 国产日本欧美在线观看| 亚洲精品久久久久久无码色欲四季| 99久久综合99久久综合网站| 亚洲精品成人自拍| 七七成人影院| 色一区在线观看| 久久久国产精品久久久| 香蕉成人影院| 日韩一区二区在线看| 亚洲av成人片色在线观看高潮| 精品国产一区二区三区噜噜噜| 久久久精品电影| 亚洲日本视频在线观看| 国产中文字幕精品| 欧美日韩国产精品一区二区| 中文字幕在线播放网址| 色综合视频一区二区三区高清| 一级黄色片在线免费观看| 免费短视频成人日韩| 久久综合电影一区| 国产一区二区视频免费| 丁香激情综合五月| 在线精品亚洲一区二区| 345成人影院| 精品国产精品三级精品av网址| 一区二区三区四区免费观看| 亚洲啊v在线| 日韩一区二区三区精品视频| 国产传媒视频在线| 亚洲影视在线| 国产精品日韩二区| av在线下载| 欧洲精品中文字幕| 少妇户外露出[11p]| 欧美ab在线视频| 国产精品视频内| 美女做暖暖视频免费在线观看全部网址91| 一区二区三区在线看| jizz欧美性11| 成人高清电影网站| 热久久这里只有| 天堂网在线中文| 亚洲国产欧美在线人成| 久久精品国产99久久99久久久| 欧洲杯什么时候开赛| 全亚洲最色的网站在线观看| 色偷偷在线观看| 亚洲午夜在线观看视频在线| 日本一二三区在线| 国产精品久久久乱弄| 国产精品免费在线免费| 国产在线视频福利| 色婷婷久久久亚洲一区二区三区| 中文文字幕文字幕高清| 尤物网精品视频| 国产欧美一区二区三区不卡高清| 天天干免费视频| 国产精品热久久久久夜色精品三区| 国产欧美欧洲在线观看| 天天天天天天天天操| 免费美女久久99| 久久涩涩网站| 最新日韩精品| 亚洲欧美在线播放| 欧产日产国产69| 久久人人爽人人爽| 丰满人妻中伦妇伦精品app| 群体交乱之放荡娇妻一区二区| 97视频在线观看视频免费视频| 欧美一区,二区| 亚洲人免费短视频| 亚洲男人的天堂在线aⅴ视频| 先锋影音日韩| 日韩在线免费| 在线亚洲男人天堂| 亚洲一区二区天堂| 日韩美女视频一区二区 | 亚洲综合99| 欧美一区二区高清在线观看| 麻豆网在线观看| 欧美日本一区二区在线观看| 黄视频网站免费看| 成人午夜伦理影院| 草草久久久无码国产专区| 免费观看不卡av| 成人黄色av网站| 日韩电影免费观看| 亚洲黄色www| 成人高潮免费视频| 国产精品2024| 国产 福利 在线| 欧美日韩一区二区综合| 91免费综合在线| 96av在线| 中文字幕无线精品亚洲乱码一区 | 亚洲精品在线观| 九九热在线免费观看| 国产一区二区毛片| 亚洲色成人www永久在线观看| 日韩理论电影中文字幕| 国产欧美亚洲精品| 超清av在线| 正在播放国产一区| 亚洲乱码在线观看| 在线观看91视频| 欧产日产国产v| 久久欧美一区二区| 欧美体内she精高潮| 国产精品人人爽人人做我的可爱| 亚洲人体一区| 精品精品精品| 成人免费福利在线| 理论不卡电影大全神| 免费精品国产| 97视频免费在线观看| 岛国在线视频免费看| 亚洲欧美春色| 日韩电影网在线| 在线免费看毛片| 天天亚洲美女在线视频| 黄色片子在线观看| 国产情人综合久久777777| 国产调教打屁股xxxx网站| 日韩国产精品久久| 国产精品一区二区三区免费观看| 校园春色亚洲色图| 欧美精品videossex性护士| 98在线视频| 亚洲男人的天堂在线播放| 亚洲精品久久久狠狠狠爱 | 97人人澡人人爽91综合色| 国产精品久久久久久久久久 | 亚洲va国产va欧美va观看| 久久人妻无码aⅴ毛片a片app| 久久久久久一级片| 一级黄色免费视频| 国产九九视频一区二区三区| 五月婷婷狠狠操| 国产亚洲精品bv在线观看| 国产精品日韩三级| 久久精品国内一区二区三区水蜜桃| 日韩av高清在线播放| 欧美黑人做爰爽爽爽| 97久草视频| 另类视频一区二区三区| 国产精品一区二区久久久| 性感美女一区二区在线观看| 91av视频在线观看| 亚洲天堂手机| 97在线观看视频| 182在线视频观看| 国模gogo一区二区大胆私拍 | 粉嫩一区二区三区国产精品| 亚洲男人天天操| 欧美伦理影视网| 精品调教chinesegay| 无码精品在线观看| 日韩精品在线免费播放| 你懂的免费在线观看| 精品夜色国产国偷在线| 色视频在线看| 亚洲深夜福利网站| 国产福利小视频在线| 国产一区二区三区毛片| 成人欧美亚洲| 中文字幕亚洲专区| 欧美96在线| 欧美xxxx18国产| 丁香高清在线观看完整电影视频| 久久久久亚洲精品| 欧美13videosex性极品| 欧美在线视频一区| 91国内外精品自在线播放| 国产视频福利一区| 精品一区二区三区中文字幕在线 | 伊人久久大香线蕉av超碰演员| 国产91沈先生在线播放| 99精品99| 亚洲xxxx2d动漫1| 精东粉嫩av免费一区二区三区| 污视频在线观看免费网站| 成人综合激情网| 国产呦小j女精品视频| 国产精品久久久久久久久免费桃花 | 国精品人妻无码一区二区三区喝尿| 亚洲国产精品一区二区久| 日本一级在线观看| 日韩在线观看视频免费| 色爱综合区网| 国产999精品久久久| 99精品美女视频在线观看热舞| 国产98在线|日韩| 国产真实有声精品录音| 麻豆md0077饥渴少妇| 一区二区高清| 欧洲美女亚洲激情| 不卡视频一二三四| 91无套直看片红桃在线观看| 一区二区三区在线播放| av大片在线免费观看| 欧美精品一级二级三级| 五月天婷婷在线观看| 日韩中文字幕亚洲| 激情黄产视频在线免费观看| 在线亚洲欧美视频| yellow91字幕网在线| 2019中文字幕全在线观看| 祥仔av免费一区二区三区四区| 国产精品国产精品国产专区蜜臀ah| 少妇精品久久久一区二区| 在线观看成人免费| 久久精品欧洲| 国产在线观看免费播放| 国产精品萝li| 五月婷婷色丁香| 精品电影一区二区| 巨大荫蒂视频欧美另类大| 欧美在线播放视频| 一区二区日韩| 成人在线免费观看一区| 精品国产精品| 久久亚洲中文字幕无码| 精油按摩中文字幕久久| 无码h肉动漫在线观看| 久久久久高清精品| 乱h高h女3p含苞待放| 欧美在线你懂得| 神马久久高清| 国产视频精品免费播放| 91蜜桃在线视频| 国产男女猛烈无遮挡91| 要久久爱电视剧全集完整观看| 国产高清www| 国产不卡一区视频| 欧美爱爱免费视频| 欧美四级电影在线观看| 你懂的在线视频| 91成人在线观看国产| 136福利精品导航| 日本三级中文字幕在线观看| 看国产成人h片视频| www.涩涩爱| 欧美优质美女网站| 国产爆初菊在线观看免费视频网站 | 欧美一区二区综合| 国产一区二区三区久久久久久久久| 国产精品成人免费一区久久羞羞| 亚洲美女免费视频| 国产黄色美女视频| 欧美成人午夜免费视在线看片| 日韩伦理一区二区| 亚洲AV无码成人精品一区| 久久er99精品| 2025国产精品自拍| 日韩精品一区二区三区四区视频| 国产成人l区| 91九色对白| 亚洲婷婷免费| www国产视频| 精品欧美aⅴ在线网站| 国产99久久久久久免费看| 亚洲欧美另类在线观看| 美女一区网站| 日韩在线三级| 久久国内精品自在自线400部| 激情五月激情综合| 91精品欧美久久久久久动漫| 97影院秋霞午夜在线观看| 岛国一区二区三区高清视频| 亚洲精品社区| 999这里有精品| 一区在线播放视频| 亚洲av无码国产精品永久一区 | 午夜激情成人网| 亚洲一区三区| 国产91丝袜在线观看| 精品91久久久| 亚洲男人天堂视频| 色综合一区二区日本韩国亚洲| 久久视频免费在线| a亚洲天堂av| 成人毛片一区二区三区| 久久精品最新地址| 伊人久久噜噜噜躁狠狠躁| 男人日女人逼逼| 中文字幕乱码久久午夜不卡| av加勒比在线| 欧美在线观看网址综合| 久久激情电影| 精品国产乱码久久久久夜深人妻| 欧美日韩亚洲91| 三区四区在线视频| 粉嫩av四季av绯色av第一区| 久久久久久黄| 小向美奈子av| 日韩av在线播放资源| 国产精品久久久久久久久免费高清| 日韩成人手机在线| 久久精品欧美一区二区三区麻豆 | 精品视频久久久久久久| 另类一区二区| 国产原创中文在线观看| 国产精品美女久久久久久久| 黄色成人一级片| 国产精品视频免费观看www| 伊人久久综合| 你懂得在线观看| 亚洲免费电影在线观看| 国产午夜久久av| 日韩精品一区中文字幕|