失眠网,内容丰富有趣,生活中的好帮手!
失眠网 > 【python爬虫】爬取淘宝网商品信息

【python爬虫】爬取淘宝网商品信息

时间:2018-09-09 12:25:44

相关推荐

【python爬虫】爬取淘宝网商品信息

相信学了python爬虫,很多人都想爬取一些数据量比较大的网站,淘宝网就是一个很好的目标,其数据量大,而且种类繁多,而且难度不是很大,很适合初级学者进行爬取。下面是整个爬取过程:

第一步:构建访问的url

#构建访问的urlgoods = "鱼尾裙"page = 10infoList = []url = '/search'for i in range(page):s_num = str(44*i+1)num = 44*idata = {'q':goods,'s':s_num}

第二步:获取网页信息

def getHTMLText(url,data):try:rsq = requests.get(url,params=data,timeout=30)rsq.raise_for_status()return rsq.textexcept:return "没找到页面"

第三步:利用正则获取所需数据

def parasePage(ilt, html,goods_id):try:plt = re.findall(r'\"view_price\"\:\"[\d\.]*\"', html)slt = re.findall(r'\"view_sales\"\:\".*?\"', html)tlt = re.findall(r'\"raw_title\"\:\".*?\"', html)ult = re.findall(r'\"pic_url\"\:\".*?\"', html)dlt = re.findall(r'\"detail_url\"\:\".*?\"', html)for i in range(len(plt)):goods_id += 1price = eval(plt[i].split(':')[1])sales = eval(slt[i].split(':')[1])title = eval(tlt[i].split(':')[1])pic_url = "https:" + eval(ult[i].split(':')[1])detail_url = "https:" + eval(dlt[i].split(':')[1])ilt.append([goods_id,price,sales,title,pic_url,detail_url])return iltexcept:print("没找到您所需的商品!")

第四步:将数据保存到csv文件

def saveGoodsList(ilt):with open('goods.csv','w') as f:writer = csv.writer(f)writer.writerow(["序列号", "价格", "成交量", "商品名称","商品图片网址","商品详情网址"])for info in ilt:writer.writerow(info)

结果如下图:

以上就是我的分享,如果有什么不足之处请指出,多交流,谢谢!

想获取更多数据或定制爬虫的请私信我。

如果觉得《【python爬虫】爬取淘宝网商品信息》对你有帮助,请点赞、收藏,并留下你的观点哦!

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。