位置: 编程技术 - 正文

利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程)

编辑:rootadmin

推荐整理分享利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:用node写接口,node怎么写,用nodejs做的项目,node.js使用教程,怎么用node.js写接口,怎么用node.js写接口,怎么用node.js写接口,node.js怎么用,内容如对您有帮助,希望把文章链接给更多的朋友!

前言

说起写node爬虫的原因,真是羞羞呀。一天,和往常一样,晚上吃过饭便刷起知乎来,首页便是推荐的你见过最漂亮的女生长什么样?,点进去各种漂亮的妹纸爆照啊!!!,看的我好想把这些好看的妹纸照片都存下来啊!一张张点击保存,就在第张得时候,突然想起。我特么不是程序员么,这种手动草做的事,怎么能做,不行我不能丢程序员的脸了,于是便开始这次爬虫之旅。

原理

初入爬虫的坑,没有太多深奥的理论知识,要获取知乎上帖子中的一张图片,我把它归结为以下几步。

准备一个url(当然是诸如你见过最漂亮的女生长什么样?&#;) 获取这个url的html内容,并分析其中的dom结构,遍历找到这些漂亮的妹纸图片url 获取图片内容 将图片内容写入本地文件

开始动手

大概知道原理之后我们就可以开干了

准备一个url

这个最简单了,去知乎随便一搜就是一大把,我们以

发一张你认为很漂亮的美女照片?

为例子,先来分析一下这个页面的dom结构,其实很简单,知乎的一个页面中会包含很多种类型的图片,有头像,用户评价上传的图片啥的。基本上在noscript种都可以找到对应的图片地址。

利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程)

获取这个url的html内容,并且拿到当前页面noscript中的img链接

这一步我们需要会点简单的nodejs的知识,以及用到一个库叫cheerio,这个库具体是用来做什么的,详细请移步cheerio。

简单来说就是可以在命令行中使用jQuery来搜索遍历获取相应的元素。

那么怎样才能获取这个帖子的html呢

使用nodejs的https模块

通过以上操作拿到网站的html之后,便是遍历出我们需要的图片地址来了

有了图片的url,如何下载到本地呢?

我们需要使用request这个库,简单的调用一下api再结合node原生写文件的api。

到这里就大功告成了,是不是很简单!!!已经将源码上传,欢迎大家下载查看。

gitHub地址:

详解Node.js串行化流程控制 串行任务:需要一个接着一个坐的任务叫做串行任务。可以使用回调的方式让几个异步任务按顺序执行,但如果任务过多,必须组织一下,否则过多的

win系统下nodejs环境安装配置 win系统下nodejs安装及环境配置,具体内容如下第一步:下载安装文件下载nodejs,官网:

Node.js中的http请求客户端示例(request client) Node.JS有一个request模块,可以很方便的抓取网页内容。最简单的一个示例:varrequest=require('request');request('

标签: nodejs实例教程

本文链接地址:https://www.jiuchutong.com/biancheng/379452.html 转载请保留说明!

上一篇:浅谈Node.js轻量级Web框架Express4.x使用指南(node.js ts)

下一篇:详解Node.js串行化流程控制(nodejs co)

  • 付款方和发票抬头不一致如何账务处理
  • 农产品普通发票抵扣政策
  • 股息红利增值税和企业所得税
  • 税务管理中的非税是指
  • 建筑企业异地预缴增值税计算
  • 银行业务结算内容
  • 房地产企业开发成本科目明细
  • 进口货物的代理报关服务费计入
  • 免费样品开具发票如何入账处理?
  • 抵扣税款是什么意思呢
  • 土地一次开发和二次开发
  • 非独立核算分公司企业所得税
  • 小型微利企业年度汇算清缴报哪些报表
  • 工程建设劳务费怎么算
  • 废料出售收入
  • 银行代扣社保费
  • 期货手续费会计分录
  • 预收账款是
  • 以房抵债房屋能否判决过户
  • 委外加工费用会计分录
  • 债权转增资本公积账务处理
  • vue print nb 教程
  • 人际交往的作用是什么
  • 日记账登记错了怎么办
  • win11系统未激活
  • PasSrv.exe - PasSrv是什么进程 有什么用
  • 舍夫沙万的蓝色是什么意思
  • 扣除年度未扣除怎么计算
  • 所得税时间性差异与暂时性差异
  • 社会保险费缓缴政策
  • 最小的洗衣机是多少
  • 前端静态页面
  • 同一控制下企业合并和非同一控制下企业合并的区别
  • 增值税的法律法规最新
  • 增值税专用发票怎么开
  • 工会经费是按应发工资还是实发工资申报
  • transformerss
  • 100多年前程序员
  • 命令行文本编辑
  • 建筑行业预交增值税税率是多少
  • 出售固定资产如何申报企业所得税
  • 出售固定资产的损失计入什么科目
  • Win10 64位安装个人版SQL2000图文教程
  • sql server 使用
  • 其他综合收益算不算所有者权益
  • 金税四期上线企业还活吗
  • 会计专业技术资格初级是什么职称
  • 劳务公司账务处理实操
  • 收到银行电子汇票已入账怎么做账
  • 会计上需要结转的科目
  • 对外公司
  • 营改增后房租发票可以抵扣吗
  • 股东借款转为资本公积的决议
  • 抵扣认证的发票怎么冲红
  • 固定资产报废需要税务备案吗
  • 融资租赁首付租金会计账务处理
  • 资产减值损失的账务处理
  • 年末进项大于销项怎么结转
  • mysql学习教程
  • win7怎么添加设备
  • 苹果mac双系统怎么删除
  • windows使用cmd运行程序
  • linux中压缩文件
  • windows10离线地图
  • win8怎么连接宽带账号密码
  • win10更新提示错误
  • 创游世界
  • react常用框架
  • python把html页面生成图片
  • cocos2dx4.0入门
  • asm指令
  • nodejs 函数
  • Nodejs+express+ejs简单使用实例代码
  • 研发费用加计扣除75%还是100%
  • 海关进口增值税如何入账
  • 银行和税务局的关系
  • 技术转让条件
  • 为什么需要报税
  • 计算当期免抵退税额
  • 个人利息收入属于什么收入
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设