位置: 编程技术 - 正文

Python爬虫爬验证码实现功能详解(爬虫如何识别验证码)

编辑:rootadmin

推荐整理分享Python爬虫爬验证码实现功能详解(爬虫如何识别验证码),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:爬虫 验证,python爬虫爬取登录数据,python爬取验证码,爬虫 验证,爬虫登录验证怎么做的,python爬虫验证码处理,python爬虫爬取登录数据,python爬虫验证码处理,内容如对您有帮助,希望把文章链接给更多的朋友!

主要实现功能:

- 登陆网页

- 动态等待网页加载

- 验证码下载

很早就有一个想法,就是自动按照脚本执行一个功能,节省大量的人力——个人比较懒。花了几天写了写,本着想完成验证码的识别,从根本上解决问题,只是难度太高,识别的准确率又太低,计划再次告一段落。希望这次经历可以与大家进行分享和交流。

Python打开浏览器

相比与自带的urllib2模块,操作比较麻烦,针对于一部分网页还需要对cookie进行保存,很不方便。于是,我这里使用的是Python2.7下的selenium模块进行网页上的操作。

测试网页: UTF-8

等待网页加载完毕

使用的是selenium中的WebDriverWait,上面的代码中已经加载

元素定位、字符输入

接下来我们需要进行登录操作:这里我使用的是Chrome,右键选择需要进行填写内容的部分,选择检查,会自动转跳到 F下的开发者模式(全程需要这个功能来找到相关的资源)。

vczKprbLJnJkcXVvO9Gh1PHT0LnYtcSyv7fWPGJyIC8+DQo8aW1nIGFsdD0="这里写图片描述" src=" title="" />

这里我们看到有一个value = “1”,考虑到下拉框的属性,我们只要想办法把这个value赋值给UserRole就好了。这里使用的是通过selenium的Select模块来进行选择,定位控件使用 find_element_by_**,能一一对应,很方便。

这是用脚本自动填充完的效果,之后就会转跳到下一页。

这里,我需要的是功能是自动对学术报告进行报名

Python爬虫爬验证码实现功能详解(爬虫如何识别验证码)

对需要已有的报告右键即可发现和这个活动有关的消息,因现在没有报告,所以只显示了标题,但对于后面的有效报告识别有相似的地方。

对于元素的定位,我优先选择了 xpath,根据测试,可以唯一定位一个元素的位置,很好用。

爬取信息

接下来我们要进行的步骤是爬取现有的有效报告:

爬取验证码

对网页中的验证码进行元素审查后,我们发现了其中的一个一个链接,是 IdentifyingCode.apsx,后面我们就对这个页面进行加载,并批量获取验证码。

爬取的思路是用selenium截取当前页面(仅显示部分),并保存到本地——需要翻页并截取特定位置的请研究:

broswer.set_window_position(**)相关函数;然后人工进行验证码的定位,通过PIL模块进行截取并保存。

最后调用谷歌在Python下的pytesser进行字符识别,但这个网站的验证码有很多的干扰,外加字符旋转,仅仅能识别其中的一部分字符。

爬取下来的验证码

一部分验证码原图:

从上面的验证码看出,字符是带旋转的,而且因为旋转造成的重叠对于后续的识别也有很大的影响。我曾尝试过使用神经网络进行训练,但因没有进行特征向量的提取,准确率低得离谱。

关于Python爬虫爬验证码实现功能详解就给大家介绍到这里,希望对大家有所帮助!

Python Web框架Tornado运行和部署 本文实例为大家分享了PythonWeb框架Tornado运行和部署的详细内容,供大家参考,具体内容如下一、运行和部署因为Tornado内置了自己的HTTPServer,运行和部

说一说Python logging 最近有个需求是把以前字符串输出的log改为json格式,看了别人的例子,还是有些比较茫然,索性就把logging整个翻了一边,做点小总结.初看log在程序中,log的用

Python使用redis pool的一种单例实现方式 本文实例讲述了Python使用redispool的一种单例实现方式。分享给大家供大家参考,具体如下:为适应多个redis实例共享同一个连接池的场景,可以类似于以

标签: 爬虫如何识别验证码

本文链接地址:https://www.jiuchutong.com/biancheng/385298.html 转载请保留说明!

上一篇:Python实现简单登录验证(python编写登录程序)

下一篇:Python Web框架Tornado运行和部署(python web框架2023)

  • 企业取得被投资单位的长期股权可以享有
  • 城市维护建设税优惠政策
  • 一般纳税人开普票和专票有什么区别
  • 血液制品3%增值税税率
  • 一般纳税人开红票怎么处理
  • 叉车折旧年限是多少年
  • 单位社保没推送
  • 报废资产取得的增值税
  • 个人投资理财需要注意什么
  • 发票认证但未抵扣需要在报表里填吗
  • 单位承租个人房屋交哪些税2020年
  • 发票开什么明目列福利费
  • 会计经验要求怎么填
  • 勾选认证和扫描认证哪个好
  • 购销合同怎么签订
  • 合并报表的少数股东权益分录
  • 城建税印花税教育附加税各是多少
  • 怎么做汇算清缴报表
  • 笔记本电池保养注意事项
  • win7 扫描仪
  • 企业所得税征收标准
  • php输出当月日历
  • PHP CURL或file_get_contents获取网页标题的代码及两者效率的稳定性问题
  • 超市赠送消费券怎么用
  • 年度应付职工薪酬在科目余额表哪里看
  • 坏账准备怎么做会计科目
  • 记账凭证不见了怎么办
  • 托收账款属于什么会计科目
  • 其他应收账款属于
  • 小规模纳税人增值税免税政策
  • 列表定义格式
  • elasticsearch基本概念
  • 长期待摊费用如何处理
  • 合并报表少数股东权益抵消分录
  • 所有者权益类的借贷方向是什么
  • 个人在平台销售怎么做
  • php调用第三方接口代码
  • nosql sql
  • bkuzmic/jquerycrossdomaindataplugin
  • 收到员工交来现金怎么入账
  • 电子承兑到期清算方式是线上还是线下
  • 建筑安装工人住宿费会计分录
  • 企业回购股票会退市吗
  • sqlserver2012安装好了桌面没有图标
  • 可供出售金融资产新准则叫什么
  • 公司开发新产品的建议
  • 交易性金融资产的账务处理
  • 交增值税怎么做帐
  • 退货销售折让会计分录
  • 折扣方式销售如何确定销售额?
  • 12月多开的发票,可以明年1月份入账吗?
  • 印花税票 购买
  • 工会经费支出范围
  • 企业购买的土地计入什么科目
  • 苗木设计方案
  • 分公司注销余额转总公司会计分录
  • 自产产品与视同自产产品
  • xp系统可以双屏吗
  • 苹果mac怎么下载淘宝
  • centos安装选择哪个
  • linux的ftp命令
  • mac os常用快捷键
  • linux的awk命令大全
  • 微软win10专业版多少钱
  • window10如何解除密码
  • cocos2dx视频教程
  • css教程笔记
  • unity3ds
  • android游戏开发论文
  • python中元组和列表
  • python的类变量和成员变量
  • css弹性布局是什么
  • js阻止浏览器后退
  • 利用html css javascript做一个网页
  • 北京车辆过户办理
  • 电子税务局如何下载财务报表
  • 代扣代缴申报表哪里查询
  • 党建联建是什么部门负责
  • 古代税收和现代税收
  • 纳税明细怎么查询系统
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设