爬虫代码是什么意思?
爬虫代码指的是网络爬虫,又被称为网页蜘蛛,网络机器人,是一种按照一定的规则,自动地抓取万维网信息的程序或者脚本,另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。
如果我们把互联网比作一张大的蜘蛛网,数据便是存放于蜘蛛网的各个节点,而爬虫就是一只小蜘蛛,会沿着网络抓取自己的猎物(数据)。
从技术层面来说就是,通过程序模拟浏览器请求站点的行为,把站点返回的html代码/json数据/二进制数据(图片、视频) 爬到本地,进而提取自己需要的数据,存放起来使用。一般步骤为:
1、发起请求。使用http库向目标站点发起请求,即发送一个Request。
2、获取响应内容。如果服务器能正常响应,则会得到一个Response,包含:html,json,图片,视频等。
3、解析内容。解析二进制数据:以wb的方式写入文件。
4、保存数据。
Copyright © 广州京杭网络科技有限公司 2005-2024 版权所有 粤ICP备16019765号
广州京杭网络科技有限公司 版权所有