加入收藏 | 设为首页 | 会员中心 | 我要投稿 核心网 (https://www.hxwgxz.com/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 教程 > 正文

Python爬取4027条脉脉职言,解读互联网人的苦与难!

发布时间:2019-01-30 07:47:15 所属栏目:教程 来源:量化小白H
导读:脉脉是一个实名职场社交平台。之前爬了脉脉职言版块,大概爬了4027条评论,本文对爬取过程给出详细说明,对于评论内容仅做可视化分析,之前存了一堆这方面的文章,今天一看全都404了。 爬虫 仍然使用python编程,对爬虫没兴趣的可以直接跳过看下部分,不影

匿名发帖人无法获取更细致的数据,但对于那些不匿名的发帖人,可以获取他们所在公司 信息,将发帖数按公司汇总,看各大企业发帖量,可以作为整体的一个估计。统计时已经考虑了公司名称输入不一致的情况,将蚂蚁金服、支付宝等替换成了阿里巴巴,京东金融等替换成京东,今日头条、抖音等替换为字节跳动,取发帖数TOP20。

Python爬取4027条脉脉职言,解读互联网人的苦与难!

可以看到,发帖人大多来自互联网企业,金融、地产等其他企业相对较少。

文本分析

对于转发、评论数、点赞数,因为有爬取时间上的差异,所以不好直接比较,给出评论数最多的前5条评论,看看大家最愿意参与的话题是什么。

  1.  用一个字概括一下你的2018年。(1659条评论)
  2. 【再就业求助帖】本人是刚被优化掉的知乎程序员,工作3年。比较想去BAT等大厂,希望贵厂HR们带公司认证来回复一下,发一发真实有hc的岗位,祝愿兄弟们都能找到新工作。(610条评论)
  3. 用两个字概括你现在的工作。(477条评论)
  4. 网易涨今年薪涨了50%.....公司是发财了吗?(458条评论)
  5. 用2个字总结你的工作。(415条评论)

1,4,5都是蛮有意思的问题,我们把1,4,5的评论都爬下来,做成词云,看看大家都在说些什么。

用一个字概括你的2018年

爬虫过程跟上面基本是一样的,找到json,不过这个可以爬到全部评论。

  1. # -*- coding: utf-8 -*- 
  2. """ 
  3. Created on Fri Oct 19 18:50:03 2018 
  4. """ 
  5. import urllib 
  6. import requests 
  7. from fake_useragent import UserAgent 
  8. import json 
  9. import pandas as pd 
  10. import time 
  11. # 发送get请求 
  12. comment_api = 'https://maimai.cn/sdk/web/gossip/getcmts?gid=18606987&page={}&count=50&hotcmts_limit_count=1&u=206793936&channel=www&version=4.0.0&_csrf=38244DlN-X0iNIk6A4seLXFx6hz3Ds6wfQ0Y&access_token=1.9ff1c9df8547b2b2c62bf58b28e84b97&uid=%22MRlTFjf812rF62rOeDhC6vAirs3A3wL6ApgZu%2Fo1crA%3D%22&token=%22rE8q1xp6fZlxvwygWJn1UFDjrmMXDrSE2tc6uDKNIDZtRErng0FRwvduckWMwYzn8CKuzcDfAvoCmBm7%2BjVysA%3D%3D%22' 
  13. """ 
  14. author:作者 
  15. text:评论 
  16. 、 
  17.  
  18. """ 
  19.  
  20.  
  21. #headers = { "User-Agent": UserAgent(verify_ssl=False).random,'Cookie':cookie} 
  22. headers = { "User-Agent": UserAgent(verify_ssl=False).random} 
  23. j = 0 
  24. k = 0 
  25. response_comment = requests.get(comment_api.format(0),headers = headers) 
  26. json_comment = response_comment.text 
  27. json_comment = json.loads(json_comment) 
  28.  
  29.  
  30. num = json_comment['total'] 
  31. cols = ['author','text'] 
  32. dataall = pd.DataFrame(index = range(num),columns = cols) 
  33.  
  34. while j < num : 
  35.    n = json_comment['count'] 
  36.    for i in range(n): 
  37.  
  38.        dataall.loc[j,'author'] = json_comment['comments'][i]['name'] 
  39.        dataall.loc[j,'text'] = json_comment['comments'][i]['text'] 
  40.        j+= 1              
  41.    k += 1 
  42.    comment_api1 = comment_api.format(k)  
  43.     
  44.    response_comment = requests.get(comment_api1,headers = headers) 
  45.    json_comment = response_comment.text 
  46.    json_comment = json.loads(json_comment) 
  47.    print('已完成 {}% !'.format(round(j/num*100,2))) 
  48.    time.sleep(3) 
  49.     
  50.          
  51. dataall.to_excel('用一个字概括你的2018年.xlsx') 

(编辑:核心网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

热点阅读