对于数据分析师来说,数据获取通常有两种方式,一种是直接从系统本地获取数据,另一种是爬取网页上的数据,爬虫从网页爬取数据需要几步?总结下来,Python爬取网页数据需要发起请求、获取响应内容、解析数据、保存数据共计4步。
本文使用Python爬取去哪儿网景点评论数据共计100条数据,数据爬取后使用Tableau Public软件进行可视化分析,从数据获取,到数据清洗,最后数据可视化进行全流程数据分析,下面一起来学习。
示例工具:anconda3.7
本文讲解内容:数据获取、数据可视化
适用范围:网页数据获取及评论分析
Python爬取网页数据需要发起请求、获取响应内容、解析数据、保存数据共计4步,懂的数据爬取的原理后,进行数据爬取。
1、发起请求
以去哪儿旅行网站为例,爬取网页数据,首先发送请求。
这里返回状态码为200,说明服务器连接正常,可以进行数据爬取。
2、获取响应内容
服务器连接正常后,直接打印返回内容,这里返回整个网页html。
3、解析数据
网页结构由复杂的html语言构成,这里借助BeautifulSoup库进行解析。
对于特定的标签进行定位,输出text。
建立一个字典,解析目标标签内容。
使用for循环解析标签内容。
根据翻页规律设置翻页数,这里设置一个列表,用来循环爬取前十页数据。
4、保存数据
新建一个空的数据框,用于保存数据。
在空的数据框中保存第一条数据,并且使用for循环,依次爬取其余页面的数据。