专业网站建设品牌,十四年专业建站经验,服务6000+客户--广州京杭网络
免费热线:400-683-0016      微信咨询  |  联系我们

爬虫python软件下载,Python2.7下使用Ghost.py做爬虫,用pyinstaller打包成exe后总是无法运行?_python

当前位置:网站建设 > 技术支持
资料来源:网络整理       时间:2023/3/5 12:25:23       共计:3589 浏览
爬虫python软件下载? Python是一门编程语言,可以做很多事情,很多朋友对“Python2.7下使用Ghost.py做爬虫,用pyinstaller打包成exe后总是无法运行?”这样的疑问,小编汇总了相关问答给大家参考!

可以在被pyinstaller打包的py文件里引入Ghost.py需要用到的Qt4模块,例如:

我是这样解决的,可以正常的打包了!

Python下的爬虫库,一般分为3类。

抓取类

urllib(Python3),这是Python自带的库,可以模拟浏览器的请求,获得Response用来解析,其中提供了丰富的请求手段,支持Cookies、Headers等各类参数,众多爬虫库基本上都是基于它构建的。建议学习了解一下,因为有些罕见的问题需要通过底层的方式解决。

requests,基于urllib,但是更方便易用。强烈推荐掌握。

解析类

re:正则表达式官方库,不仅仅是学习爬虫要使用,在其他字符串处理或者自然语言处理的过程中,这是绕不过去的一个库,强烈推荐掌握。

BeautifulSoup:方便易用,好上手,推荐掌握。通过选择器的方式选取页面元素,并获取对应的内容。

lxml:使用

lxml.etree

将字符串转换之后,我们可以使用XPath表达式来解析网页,终极推荐。XPath对于网页解析的支持非常强大,而且很容易上手。它本来是设计出来进行XML元素选择的,但是它同样支持HTML。

pyquery:另一个强大的解析库,感兴趣的可以学习下。

综合类

selenium:所见即所得式爬虫,综合了抓取和解析两种功能,一站式解决。很多动态网页不太容易通过requests、scrapy直接抓取,比如有些url后边带了加密的随机数,这些算法不太好破解,这种情况下,只能通过直接访问网址、模拟登陆等方式请求到页面源码,直接从网页元素中解析内容,这种情况下,Selenium就是最好的选择。不过Selenium最初设计出来,是用于测试的。强烈推荐。

scrapy:另一个爬虫神器,适合爬取大量页面,甚至对分布式爬虫提供了良好的支持。强烈推荐。

以上这些是我个人经常使用的库,但是还有很多其他的工具值得学习。比如Splash也支持动态网页的抓取;Appium可以帮助我们抓取App的内容;Charles可以帮助我们抓包,不管是移动端还是PC网页端,都有良好的支持;pyspider也是一个综合性的框架;MySQL(pymysql)、MongoDB(pymongo),抓到了数据就要存储,数据库也是绕不过去的。

掌握了以上这些,基本上大部分的爬虫任务都难不倒你啦!

你也可以关注我的头条号,或者我的个人博客,里边会有一些爬虫类的分享。数洞: www.data-insights.cn/www.data-insight.cn.

可以在被pyinstaller打包的py文件里引入Ghost.py需要用到的Qt4模块,例如:我是这样解决的,可以正常的打包了!

这种情况我自己还没有试过,只是借助爬虫框架pyspider结合PhantomJS,这样就可以在python里面嵌入一些js代码,实现点击,下拉等操作啦。

总结,以上就是关于爬虫python软件下载以及Python2.7下使用Ghost.py做爬虫,用pyinstaller打包成exe后总是无法运行的经验分享,卡友有疑问可以加wx或扫码加群!
版权说明:
本网站凡注明“广州京杭 原创”的皆为本站原创文章,如需转载请注明出处!
本网转载皆注明出处,遵循行业规范,如发现作品内容版权或其它问题的,请与我们联系处理!
欢迎扫描右侧微信二维码与我们联系。
·上一条:初中生学编程c十十,我是初中生可以学习C语言吗?_python | ·下一条:python翻译器下载手机版,有没有练习翻译的软件?_python
同类资讯

Copyright © 广州京杭网络科技有限公司 2005-2025 版权所有    粤ICP备16019765号 

广州京杭网络科技有限公司 版权所有