導讀:最近就有一部“懷舊”題材的電影,未播先火,那就是劉若英的處女作——《後來的我們》。青春,愛情,夢想,一直是“懷舊”題材的核心要素,雖然電影現在還未上映,但先行釋出的主題曲《我們》,已經虐哭了不少人。在MV裡,歌聲清清淺淺,訴說著那些年關於愛情裡的遺憾。
“我最大的遺憾,就是你的遺憾,與我有關”,下麵就一起來感受一下吧。
這首歌是《後來的我們》中的主題曲,網易雲音樂上線當天便席捲千萬+播放量,現如今光是網易雲上面的評論就馬上突破了10萬條。
網易雲音樂一直是我嚮往的“神壇”,聽音樂看到走心的評論的那一刻,高山流水。於是今天我們來抓取一下歌曲的熱門評論。並做成圖表、詞雲來展示,看看相對於這首歌最讓人有感受的評論內容是什麼。
01 抓資料
要想做成詞雲圖表,首先得有資料才行。於是需要一點點的爬蟲技巧。
基本思路為:抓包分析、加密資訊處理、抓取熱門評論資訊
1. 抓包分析
我們首先用瀏覽器開啟網易雲音樂的網頁版,進入陳奕迅《我們》歌曲頁面,可以看到下麵有評論。接著F12進入開發者控制檯(審查元素)。
接下來就要做的是,找到歌曲評論對應的url,並分析驗證其資料跟網頁現實的資料是否吻合,步驟如下圖:
▲透過歌曲id輕鬆找到評論所在的連結
▲檢視hreaders的資訊,發現瀏覽器使用的是POST的方式進行的請求
▲具體欄位如上圖,會發現表單中需要填兩個資料,名稱為params和encSecKey。後面緊跟的是一大串字元,換幾首歌會發現,每首歌的params和encSecKey都是不一樣的,因此,這兩個資料可能經過一個特定的演演算法進行加密過的
▲伺服器傳回的和評論相關的資料為json格式的,裡面含有非常豐富的資訊(比如有關評論者的資訊,評論日期,點贊數,評論內容等等),其中hotComments就是我們要找的熱門評論,總共15條
那我們的思路就很清晰了,只需要分析這個api並模擬傳送請求,獲取json進行解析就好了。
2. 加密資訊處理
然後經過我的測試,直接把瀏覽器上這倆資料拿過來就可以。但是要想真正的解決這個加密處理,還需要有點加解密的只是儲存。關於這兩個引數如何解密,強大的知乎上其實已經有答案的了,感興趣的朋友可以進去看一下《如何爬網易雲音樂的評論數?》(https://www.zhihu.com/question/36081767)
我們在這裡就只需要用我們這種偷懶的辦法就可以完成需求了。這裡我就使用這麼個臨時的方法好了,而且對於不同的歌曲是可以重用的,待會我們可以驗證一下。
3.抓取熱門評論資訊
程式碼塊如下:
import requests
import json
url = 'http://music.163.com/weapi/v1/resource/comments/R_SO_4_551816010?csrf_token=568cec564ccadb5f1b29311ece2288f1'
essay-headers = {
'User-Agent':'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/64.0.3282.140 Safari/537.36',
'Referer':'http://music.163.com/song?id=551816010',
'Origin':'http://music.163.com',
'Host':'music.163.com'
}
#加密資料,直接拿過來用
user_data = {
'params': 'vRlMDmFsdQgApSPW3Fuh93jGTi/ZN2hZ2MhdqMB503TZaIWYWujKWM4hAJnKoPdV7vMXi5GZX6iOa1aljfQwxnKsNT+5/uJKuxosmdhdBQxvX/uwXSOVdT+0RFcnSPtv',
'encSecKey': '46fddcef9ca665289ff5a8888aa2d3b0490e94ccffe48332eca2d2a775ee932624afea7e95f321d8565fd9101a8fbc5a9cadbe07daa61a27d18e4eb214ff83ad301255722b154f3c1dd1364570c60e3f003e15515de7c6ede0ca6ca255e8e39788c2f72877f64bc68d29fac51d33103c181cad6b0a297fe13cd55aa67333e3e5'
}
response = requests.post(url,essay-headers=essay-headers,data=user_data)
data = json.loads(response.text)
hotcomments = []
for hotcommment in data['hotComments']:
item = {
'nickname':hotcommment['user']['nickname'],
'content':hotcommment['content'],
'likedCount':hotcommment['likedCount']
}
hotcomments.append(item)
#獲取評論使用者名稱,內容,以及對應的獲贊數
content_list = [content['content'] for content in hotcomments]
nickname = [content['nickname'] for content in hotcomments]
liked_count = [content['likedCount'] for content in hotcomments]
02 資料視覺化
在獲得相關評論資料後,我們將其做成圖表與詞雲圖,將讓人看起來更直觀。
接下來需要在自己電腦上安裝需要相關的安裝包: pyecharts(圖表包)、matplotlib(繪圖功能包)、 WordCloud(詞雲包)
其中,pyecharts 是一個用於生成 Echarts 圖表的類庫。 Echarts 是百度開源的一個資料視覺化 JS 庫,主要用於資料視覺化,同時pyecharts 相容 Python2 和 Python3。安裝非常簡單,只需:
pip install pyecharts
關於WordCloud(詞雲包)安裝過程中出現問題,可以看看我之前這篇文章《手把手|教你將Windows環境下Python中安裝wordcloud的雷排除掉》(https://zhuanlan.zhihu.com/p/33507393)
接下來就是程式碼的實現:
利用之前獲得評論使用者名稱和對應的點贊數,將其製作成圖表圖:
from pyecharts import Bar
bar = Bar("熱評中點贊數示例圖")
bar.add( "點贊數",nickname, liked_count, is_stack=True,mark_line=["min", "max"],mark_point=["average"])
bar.render()
由此可以看出,獲得最高贊數(95056)評論是:
@魚大叔Uncle:後來的我,離開了他,永遠的離開了他,十年的感情不過寥寥幾句話。後來的我,嫁給了一個很普通的人,沒有他的浪漫,卻有不一樣的溫暖。
大多數贊數為20000-30000之間,最低都達到7000+,(基本與網頁裡評論中資料吻合)。
最後,我們將所有的熱門評論內容,製作成詞雲圖展示出來,程式碼塊如下:
from wordcloud import WordCloud
import matplotlib.pyplot as plt
content_text = " ".join(content_list)
wordcloud = WordCloud(font_path=r"C:\simhei.ttf",max_words=200).generate(content_text)
plt.figure()
plt.imshow(wordcloud,interpolation='bilinear')
plt.axis('off')
plt.show()
結果圖:
從圖中可以看出,很多人感慨,後來只有你我,再無我們。
註明:所有資料,是屬於當時所爬取的資料。
03 後記
曾記得,郭敬明在書裡寫,“我們太年輕,以致於都不知道以後的時光,竟然那麼長,
長得足夠讓我忘記你,足夠讓我重新喜歡一個人,就像當初喜歡你那樣。”
我們這一生,總是遇到太多的後來。從不懂愛到懂愛,從擁有到珍惜。
所幸是到了最後,無論過了多少年。後來的我們,都在對方身上,學會瞭如何去愛。
就像陳奕迅在歌裡唱的,“有過執著,放下執著”。有些人啊,光是遇見就已經值得了。
我們確實沒有了後來。
就讓後來的我們,慢慢走,別回頭。
不談虧欠,感謝遇見。
只是在下一次遇見愛的時候,我們都要學會更懂得珍惜。
這才是愛的意義,也是我們為什麼去愛。
作者:菜鳥分析
來源:知乎專欄「戀習Python」
原文:https://zhuanlan.zhihu.com/p/35667053
推薦閱讀
日本老爺爺堅持17年用Excel作畫,我可能用了假的Excel···
看完此文再不懂區塊鏈算我輸:手把手教你用Python從零開始建立區塊鏈
Q: 程式碼和真愛,哪個更好懂?
歡迎留言與大家分享
覺得不錯,請把這篇文章分享給你的朋友
轉載 / 投稿請聯絡:baiyu@hzbook.com
更多精彩文章,請在公眾號後臺點選“歷史文章”檢視