使用Python分析網(wǎng)易云歌曲評論信息,通過可視化處理我發(fā)現(xiàn)了這些有趣的規(guī)律
大家好,我是Python進階者。
前言
前幾天有個學(xué)生娃子找我?guī)兔ψ鳇c可視化的作業(yè),作業(yè)內(nèi)容包括采集網(wǎng)易云音樂熱評評論內(nèi)容,數(shù)據(jù)量1W作業(yè)足夠,然后就是做點數(shù)據(jù)分析相關(guān)的工作即可。這份大作業(yè)里邊有網(wǎng)絡(luò)爬蟲,有數(shù)據(jù)分析和數(shù)據(jù)處理,還有可視化,算是一個大實驗了,還需要上交實驗報告。這里拿出來部分知識點,給大家分享。學(xué)生娃的作業(yè),參考了這個文章:網(wǎng)易云音樂評論爬取。
數(shù)據(jù)來源
首先是數(shù)據(jù)來源,來自網(wǎng)易云音樂熱評,代碼這里就不放出來了,調(diào)用了API獲取的,抓取難度就少了許多,這里不在贅述了。
分析過程
時間處理
下面的代碼主要是評論時間分布,主要是針對時間列做了數(shù)據(jù)處理,常規(guī)操作,你也對照的去以日期和月份去挖掘下有意思的事情。
- import pandas as pd
- from pyecharts import Line
- # 讀取數(shù)據(jù)
- df = pd.read_csv('music_comments.csv', header=None, names=['name', 'userid', 'age', 'gender', 'city', 'text', 'comment', 'commentid', 'praise', 'date'], encoding='utf-8-sig')
- # 根據(jù)評論ID去重
- df = df.drop_duplicates('commentid')
- df = df.dropna()
- # 獲取時間
- df['time'] = [int(i.split(' ')[1].split(':')[0]) for i in df['date']]
- # 分組匯總
- date_message = df.groupby(['time'])
- date_com = date_message['time'].agg(['count'])
- date_com.reset_index(inplace=True)
- # 繪制走勢圖
- attr = date_com['time']
- v1 = date_com['count']
- line = Line("歌曲被爆抄襲后-評論的時間分布", title_pos='center', title_top='18', width=800, height=400)
- line.add("", attr, v1, is_smooth=True, is_fill=True, area_color="#000", is_xaxislabel_align=True, xaxis_min="dataMin", area_opacity=0.3, mark_point=["max"], mark_point_symbol="pin", mark_point_symbolsize=55)
- line.render("歌曲被爆抄襲后-評論的時間分布.html")
運行之后,得到的效果圖如下所示:
可以看到評論的小伙伴喜歡在下午臨近下班和晚上的時候進行評論。
用戶評論數(shù)量
代碼和上面差不多,只需要更改下數(shù)據(jù)即可。
- import pandas as pd
- # 讀取數(shù)據(jù)
- df = pd.read_csv('music_comments.csv', header=None, names=['name', 'userid', 'age', 'gender', 'city', 'text', 'comment', 'commentid', 'praise', 'date'], encoding='utf-8-sig')
- # 根據(jù)評論ID去重
- df = df.drop_duplicates('commentid')
- df = df.dropna()
- # 分組匯總
- user_message = df.groupby(['userid'])
- user_com = user_message['userid'].agg(['count'])
- user_com.reset_index(inplace=True)
- user_com_last = user_com.sort_values('count', ascending=False)[0:10]
- print(user_com_last)
運行之后,得到的結(jié)果如下所示:
可以看到有忠粉,狂粉,評論數(shù)據(jù)上百,恐怖如斯。
評論詞云
詞云這個老生常談了,經(jīng)常做,直接套用模板,改下底圖即可,代碼如下:
- from wordcloud import WordCloud
- import matplotlib.pyplot as plt
- import pandas as pd
- import random
- import jieba
- # 設(shè)置文本隨機顏色
- def random_color_func(word=None, font_size=None, position=None, orientation=None, font_path=None, random_state=None):
- h, s, l = random.choice([(188, 72, 53), (253, 63, 56), (12, 78, 69)])
- return "hsl({}, {}%, {}%)".format(h, s, l)
- # 讀取信息
- df = pd.read_csv('music_comments.csv', header=None, names=['name', 'userid', 'age', 'gender', 'city', 'text', 'comment', 'commentid', 'praise', 'date'], encoding='utf-8-sig')
- # 根據(jù)評論ID去重
- df = df.drop_duplicates('commentid')
- df = df.dropna()
- words = pd.read_csv('chineseStopWords.txt', encoding='gbk', sep='\t', names=['stopword'])
- # 分詞
- text = ''
- for line in df['comment']:
- text += ' '.join(jieba.cut(str(line), cut_all=False))
- # 停用詞
- stopwords = set('')
- stopwords.update(words['stopword'])
- backgroud_Image = plt.imread('music.jpg')
- wc = WordCloud(
- background_color='white',
- mask=backgroud_Image,
- font_path='FZSTK.TTF',
- max_words=2000,
- max_font_size=250,
- min_font_size=15,
- color_func=random_color_func,
- prefer_horizontal=1,
- random_state=50,
- stopwords=stopwords
- )
- wc.generate_from_text(text)
- # img_colors = ImageColorGenerator(backgroud_Image)
- # 看看詞頻高的有哪些
- process_word = WordCloud.process_text(wc, text)
- sort = sorted(process_word.items(), key=lambda e: e[1], reverse=True)
- print(sort[:50])
- plt.imshow(wc)
- plt.axis('off')
- wc.to_file("網(wǎng)易云音樂評論詞云.jpg")
- print('生成詞云成功!')
最后生成的詞云圖如下所示:
用戶年齡
代碼和上面差不多,只需要更改下數(shù)據(jù)即可,這里直接放效果圖了,如下圖所示:
感覺還是年輕的粉絲居多啊!
地區(qū)分布
這個代碼稍微復(fù)雜一些了,畢竟涉及到地圖,代碼如下:
- import pandas as pd
- from pyecharts import Map
- def city_group(cityCode):
- """
- 城市編碼
- """
- city_map = {
- '11': '北京',
- '12': '天津',
- '31': '上海',
- '50': '重慶',
- '5e': '重慶',
- '81': '香港',
- '82': '澳門',
- '13': '河北',
- '14': '山西',
- '15': '內(nèi)蒙古',
- '21': '遼寧',
- '22': '吉林',
- '23': '黑龍江',
- '32': '江蘇',
- '33': '浙江',
- '34': '安徽',
- '35': '福建',
- '36': '江西',
- '37': '山東',
- '41': '河南',
- '42': '湖北',
- '43': '湖南',
- '44': '廣東',
- '45': '廣西',
- '46': '海南',
- '51': '四川',
- '52': '貴州',
- '53': '云南',
- '54': '西藏',
- '61': '陜西',
- '62': '甘肅',
- '63': '青海',
- '64': '寧夏',
- '65': '新疆',
- '71': '臺灣',
- '10': '其他',
- }
- cityCode = str(cityCode)
- return city_map[cityCode[:2]]
- # 讀取數(shù)據(jù)
- df = pd.read_csv('music_comments.csv', header=None, names=['name', 'userid', 'age', 'gender', 'city', 'text', 'comment', 'commentid', 'praise', 'date'], encoding='utf-8-sig')
- # 根據(jù)評論ID去重
- df = df.drop_duplicates('commentid')
- df = df.dropna()
- # 進行省份匹配
- df['location'] = df['city'].apply(city_group)
- # 分組匯總
- loc_message = df.groupby(['location'])
- loc_com = loc_message['location'].agg(['count'])
- loc_com.reset_index(inplace=True)
- # 繪制地圖
- value = [i for i in loc_com['count']]
- attr = [i for i in loc_com['location']]
- print(value)
- print(attr)
- map = Map("歌曲被爆抄襲后評論用戶的地區(qū)分布圖", title_pos='center', title_top=0)
- map.add("", attr, value, maptype="china", is_visualmap=True, visual_text_color="#000", is_map_symbol_show=False, visual_range=[0, 60])
- map.render('歌曲被爆抄襲后評論用戶的地區(qū)分布圖.html')
最后得到的效果圖如下所示:
可以看到四川、廣東省的評論數(shù)量居多。
粉絲性別
代碼和上面的差不多,這里不再贅述,直接上效果圖了。
可以看到女粉絲占據(jù)了大頭。
總結(jié)
大家好,我是Python進階者。這篇文章主要基于網(wǎng)易云熱評數(shù)據(jù),利用了Python中的數(shù)據(jù)處理庫pandas進行數(shù)據(jù)處理和分析,并利用可視化庫pyecharts給大家分享了相關(guān)圖形的制作方法,并發(fā)現(xiàn)了一些有趣的數(shù)據(jù)分析結(jié)果。