Python數(shù)據(jù)可視化：網(wǎng)易云音樂歌單

作者：小F 2019-01-15 15:00:22

大數(shù)據(jù) 數(shù)據(jù)可視化

本次通過對網(wǎng)易云音樂華語歌單數(shù)據(jù)的獲取，對華語歌單數(shù)據(jù)進行可視化分析。可視化庫不采用pyecharts，來點新東西。使用matplotlib可視化庫，利用這個底層庫來進行可視化展示。

網(wǎng)易云音樂2018年度聽歌報告—遇見你，真好。

相信有不少人在上周，應該已經(jīng)看過自己網(wǎng)易云音樂的年度報告了。

小F也是去湊湊熱鬧，瞅了一波自己的年度聽歌報告。

那么你在云村又聽了多少首歌，聽到最多的歌詞又是什么呢?

2018年你的年度歌手又是誰，哪些又是你***的歌呢?

不過相比去年，我的票圈并沒有很多發(fā)自己年度報告的朋友。

不得不說，版權之爭開始，網(wǎng)易云音樂似乎就在走下坡路。

很多喜歡的歌聽不了，這應該是大家共同的痛點。

***的印象就是周董的歌，在愚人節(jié)時下架了，原以為只是個玩笑，不想?yún)s是真的。

本次通過對網(wǎng)易云音樂華語歌單數(shù)據(jù)的獲取，對華語歌單數(shù)據(jù)進行可視化分析。

可視化庫不采用pyecharts，來點新東西。

使用matplotlib可視化庫，利用這個底層庫來進行可視化展示。

一、網(wǎng)頁分析

01 歌單索引頁

選取華語熱門歌單頁面。

獲取歌單播放量，名稱，及作者，還有歌單詳情頁鏈接。

本次一共獲取了1302張華語歌單。

02 歌單詳情頁

獲取歌單詳情頁信息，信息比較多。

有歌單名，收藏量，評論數(shù)，標簽，介紹，歌曲總數(shù)，播放量，收錄的歌名。

這里歌曲的時長、歌手、專輯信息在網(wǎng)頁的iframe中。

需要用selenium去獲取信息，鑒于耗時過長，小F選擇放棄...

有興趣的小伙伴，可以試一下哈...

二、數(shù)據(jù)獲取

01 歌單索引頁

from bs4 import BeautifulSoup 
import requests 
import time 
 
headers = { 
    'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.132 Safari/537.36' 
} 
 
for i in range(0, 1330, 35): 
    print(i) 
    time.sleep(2) 
    url = 'https://music.163.com/discover/playlist/?cat=歐美&order=hot&limit=35&offset=' + str(i) 
    response = requests.get(url=url, headers=headers) 
    html = response.text 
    soup = BeautifulSoup(html, 'html.parser') 
    # 獲取包含歌單詳情頁網(wǎng)址的標簽 
    ids = soup.select('.dec a') 
    # 獲取包含歌單索引頁信息的標簽 
    lis = soup.select('#m-pl-container li') 
    print(len(lis)) 
    for j in range(len(lis)): 
        # 獲取歌單詳情頁地址 
        url = ids[j]['href'] 
        # 獲取歌單標題 
        title = ids[j]['title'] 
        # 獲取歌單播放量 
        play = lis[j].select('.nb')[0].get_text() 
        # 獲取歌單貢獻者名字 
        user = lis[j].select('p')[1].select('a')[0].get_text() 
        # 輸出歌單索引頁信息 
        print(url, title, play, user) 
        # 將信息寫入CSV文件中 
        with open('playlist.csv', 'a+', encoding='utf-8-sig') as f: 
            f.write(url + ',' + title + ',' + play + ',' + user + '\n')

獲取歌單索引頁信息如下，共1302張華語歌單。

02、歌單詳情頁

from bs4 import BeautifulSoup 
import pandas as pd 
import requests 
import time 
 
df = pd.read_csv('playlist.csv', header=None, error_bad_lines=False, names=['url', 'title', 'play', 'user']) 
 
headers = { 
    'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.132 Safari/537.36' 
} 
 
for i in df['url']: 
    time.sleep(2) 
    url = 'https://music.163.com' + i 
    response = requests.get(url=url, headers=headers) 
    html = response.text 
    soup = BeautifulSoup(html, 'html.parser') 
    # 獲取歌單標題 
    title = soup.select('h2')[0].get_text().replace(',', '，') 
    # 獲取標簽 
    tags = [] 
    tags_message = soup.select('.u-tag i') 
    for p in tags_message: 
        tags.append(p.get_text()) 
    # 對標簽進行格式化 
    if len(tags) > 1: 
        tag = '-'.join(tags) 
    else: 
        tag = tags[0] 
    # 獲取歌單介紹 
    if soup.select('#album-desc-more'): 
        text = soup.select('#album-desc-more')[0].get_text().replace('\n', '').replace(',', '，') 
    else: 
        text = '無' 
    # 獲取歌單收藏量 
    collection = soup.select('#content-operation i')[1].get_text().replace('(', '').replace(')', '') 
    # 歌單播放量 
    play = soup.select('.s-fc6')[0].get_text() 
    # 歌單內(nèi)歌曲數(shù) 
    songs = soup.select('#playlist-track-count')[0].get_text() 
    # 歌單評論數(shù) 
    comments = soup.select('#cnt_comment_count')[0].get_text() 
    # 輸出歌單詳情頁信息 
    print(title, tag, text, collection, play, songs, comments) 
    # 將詳情頁信息寫入CSV文件中 
    with open('music_message.csv', 'a+', encoding='utf-8-sig') as f: 
        f.write(title + ',' + tag + ',' + text + ',' + collection + ',' + play + ',' + songs + ',' + comments + '\n') 
    # 獲取歌單內(nèi)歌曲名稱 
    li = soup.select('.f-hide li a') 
    for j in li: 
        with open('music_name.csv', 'a+', encoding='utf-8-sig') as f: 
            f.write(j.get_text() + '\n')