位置: 编程技术 - 正文

利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程)

编辑:rootadmin

推荐整理分享利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:用node写接口,node怎么写,用nodejs做的项目,node.js使用教程,怎么用node.js写接口,怎么用node.js写接口,怎么用node.js写接口,node.js怎么用,内容如对您有帮助,希望把文章链接给更多的朋友!

前言

说起写node爬虫的原因,真是羞羞呀。一天,和往常一样,晚上吃过饭便刷起知乎来,首页便是推荐的你见过最漂亮的女生长什么样?,点进去各种漂亮的妹纸爆照啊!!!,看的我好想把这些好看的妹纸照片都存下来啊!一张张点击保存,就在第张得时候,突然想起。我特么不是程序员么,这种手动草做的事,怎么能做,不行我不能丢程序员的脸了,于是便开始这次爬虫之旅。

原理

初入爬虫的坑,没有太多深奥的理论知识,要获取知乎上帖子中的一张图片,我把它归结为以下几步。

准备一个url(当然是诸如你见过最漂亮的女生长什么样?&#;) 获取这个url的html内容,并分析其中的dom结构,遍历找到这些漂亮的妹纸图片url 获取图片内容 将图片内容写入本地文件

开始动手

大概知道原理之后我们就可以开干了

准备一个url

这个最简单了,去知乎随便一搜就是一大把,我们以

发一张你认为很漂亮的美女照片?

为例子,先来分析一下这个页面的dom结构,其实很简单,知乎的一个页面中会包含很多种类型的图片,有头像,用户评价上传的图片啥的。基本上在noscript种都可以找到对应的图片地址。

利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程)

获取这个url的html内容,并且拿到当前页面noscript中的img链接

这一步我们需要会点简单的nodejs的知识,以及用到一个库叫cheerio,这个库具体是用来做什么的,详细请移步cheerio。

简单来说就是可以在命令行中使用jQuery来搜索遍历获取相应的元素。

那么怎样才能获取这个帖子的html呢

使用nodejs的https模块

通过以上操作拿到网站的html之后,便是遍历出我们需要的图片地址来了

有了图片的url,如何下载到本地呢?

我们需要使用request这个库,简单的调用一下api再结合node原生写文件的api。

到这里就大功告成了,是不是很简单!!!已经将源码上传,欢迎大家下载查看。

gitHub地址:

详解Node.js串行化流程控制 串行任务:需要一个接着一个坐的任务叫做串行任务。可以使用回调的方式让几个异步任务按顺序执行,但如果任务过多,必须组织一下,否则过多的

win系统下nodejs环境安装配置 win系统下nodejs安装及环境配置,具体内容如下第一步:下载安装文件下载nodejs,官网:

Node.js中的http请求客户端示例(request client) Node.JS有一个request模块,可以很方便的抓取网页内容。最简单的一个示例:varrequest=require('request');request('

标签: nodejs实例教程

本文链接地址:https://www.jiuchutong.com/biancheng/379452.html 转载请保留说明!

上一篇:浅谈Node.js轻量级Web框架Express4.x使用指南(node.js ts)

下一篇:详解Node.js串行化流程控制(nodejs co)

  • 组织员工活动方案
  • 营业执照是怎么样子的
  • 网上报税怎么报啊
  • 合伙企业主要缴纳的税种?
  • 带薪年休假如果当年离职补交的年休假钱需要扣个税嘛
  • 集团内部借款利息收入增值税
  • 5附加税政策优惠退税需要哪些资料
  • 商品房空置费
  • 罚款收入需要开票吗
  • 公司贷款直接打供应商账户还需要发票吗
  • 营改增施工企业哪些能退
  • 未结清全额是逾期吗
  • 小微企业减半征收城建税
  • 个人设备租赁给公司怎么提供发票
  • 后续支出均应计入当期损益
  • 旧房转让如何缴纳土地增值税
  • 金融业保险业
  • 补提以前年度无形资产摊销税务处理
  • 购进农产品怎么做账
  • 总资产报酬率
  • 无法收回的款项摘要怎么写
  • 公司打白条
  • 暂估冲回账务处理
  • 金蝶软件测试笔试题及答案
  • linux进程管理器
  • 阻止系统蓝屏后怎么恢复
  • 企业广告费的会计处理方法研究
  • 待清算专户
  • 筹备期废品回收会计分录
  • windows7怎么说
  • 公司内部罚款的备注怎么写劳动仲裁
  • php图片拼接
  • 质量扣款入什么科目
  • window10电源选项
  • 固定资产原值,净值,价值的区别
  • 野生动植物种源包括
  • 运费抵扣怎么算
  • 巨大的冰柱造句
  • 如何购买增值税发票需要什么资料
  • smart 变量表
  • ai与自动化有什么区别
  • php curl_multi_init
  • pdca安全管理方法
  • phpcms默认密码
  • 个人独资为什么不能叫公司
  • 自然人独资可以变更为有限责任公司
  • 小规模纳税人增值税税率
  • 小规模纳税人跨区域预缴增值税
  • 微信红包是否缴纳个税
  • 减免的企业所得税怎么做账
  • 小规模季度超过45万了怎么缴纳
  • 专票已认证还能作废吗
  • 报销电话费计入什么科目
  • 用友t3建账行业性质怎么选
  • 长期待摊费用待摊费用
  • 同一张发票报销两次会被发现吗
  • 分配利润和分配红利
  • 电子发票怎么截屏
  • 印花税退回计入什么科目
  • 对公网银回单可以导出吗
  • 自制半成品核算方法
  • Windows 10 与 MySQL 5.5 安装使用及免安装使用详细教程(图文)
  • sql语句的调优
  • [视频回复]
  • os x10.11el capitan beta3下载地址
  • centosfind命令
  • macbook2020款改硬盘
  • win7怎么提升电脑性能
  • Vuforia 4.0 beta——Object Recognition (三)
  • shell数组遍历
  • nodejs esmodule
  • javascript学习指南
  • 权限android.permission.write
  • 使用SQLite本地数据库
  • 百度地图一口价为什么还多收费
  • 美国对中国纺织服装关税
  • 国家税务局通用手工发票
  • 广东税务待遇
  • 煤炭洗选工艺
  • 我各位一个关于网上申报增值税所得税的申报流
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设