失眠网,内容丰富有趣,生活中的好帮手!
失眠网 > Python爬取新浪微博评论数据 写入csv文件中

Python爬取新浪微博评论数据 写入csv文件中

时间:2023-02-21 23:29:18

相关推荐

Python爬取新浪微博评论数据 写入csv文件中

因为新浪微博网页版爬虫比较困难,故采取用手机网页端爬取的方式

操作步骤如下:

1. 网页版登陆新浪微博

2.打开

3.查找自己感兴趣的话题,获取对应的数据接口链接

4.获取cookies和headers

# -*- coding: utf-8 -*-import requestsimport csvimport osbase_url = '/api/comments/show?id=4131150395559419&page={page}'cookies = {'Cookie':'xxx'} headers = {'User-Agent':'xxx'}path = os.getcwd()+"/weibo.csv"csvfile = open(path, 'a+', encoding='utf-8',newline='')writer = csv.writer(csvfile)writer.writerow(('username','source','comment'))for i in range(0,83):try:url = base_url.format(page=i)resp = requests.get(url, headers=headers, cookies=cookies)jsondata = resp.json()data = jsondata.get('data')for d in data:created_at = d.get("created_at")source = d.get("source")username = d.get("user").get("screen_name")comment = d.get("text")print((username,source,comment))writer.writerow((username, source, comment))except:print('*'*1000)passcsvfile.close()

至于爬出来的数据有非中文的数据,要提取中文请参考:筛选出一段文字中的中文

未完待续。。。。

如果觉得《Python爬取新浪微博评论数据 写入csv文件中》对你有帮助,请点赞、收藏,并留下你的观点哦!

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。