位置: 编程技术 - 正文

利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程)

编辑:rootadmin

推荐整理分享利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:用node写接口,node怎么写,用nodejs做的项目,node.js使用教程,怎么用node.js写接口,怎么用node.js写接口,怎么用node.js写接口,node.js怎么用,内容如对您有帮助,希望把文章链接给更多的朋友!

前言

说起写node爬虫的原因,真是羞羞呀。一天,和往常一样,晚上吃过饭便刷起知乎来,首页便是推荐的你见过最漂亮的女生长什么样?,点进去各种漂亮的妹纸爆照啊!!!,看的我好想把这些好看的妹纸照片都存下来啊!一张张点击保存,就在第张得时候,突然想起。我特么不是程序员么,这种手动草做的事,怎么能做,不行我不能丢程序员的脸了,于是便开始这次爬虫之旅。

原理

初入爬虫的坑,没有太多深奥的理论知识,要获取知乎上帖子中的一张图片,我把它归结为以下几步。

准备一个url(当然是诸如你见过最漂亮的女生长什么样?&#;) 获取这个url的html内容,并分析其中的dom结构,遍历找到这些漂亮的妹纸图片url 获取图片内容 将图片内容写入本地文件

开始动手

大概知道原理之后我们就可以开干了

准备一个url

这个最简单了,去知乎随便一搜就是一大把,我们以

发一张你认为很漂亮的美女照片?

为例子,先来分析一下这个页面的dom结构,其实很简单,知乎的一个页面中会包含很多种类型的图片,有头像,用户评价上传的图片啥的。基本上在noscript种都可以找到对应的图片地址。

利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程)

获取这个url的html内容,并且拿到当前页面noscript中的img链接

这一步我们需要会点简单的nodejs的知识,以及用到一个库叫cheerio,这个库具体是用来做什么的,详细请移步cheerio。

简单来说就是可以在命令行中使用jQuery来搜索遍历获取相应的元素。

那么怎样才能获取这个帖子的html呢

使用nodejs的https模块

通过以上操作拿到网站的html之后,便是遍历出我们需要的图片地址来了

有了图片的url,如何下载到本地呢?

我们需要使用request这个库,简单的调用一下api再结合node原生写文件的api。

到这里就大功告成了,是不是很简单!!!已经将源码上传,欢迎大家下载查看。

gitHub地址:

详解Node.js串行化流程控制 串行任务:需要一个接着一个坐的任务叫做串行任务。可以使用回调的方式让几个异步任务按顺序执行,但如果任务过多,必须组织一下,否则过多的

win系统下nodejs环境安装配置 win系统下nodejs安装及环境配置,具体内容如下第一步:下载安装文件下载nodejs,官网:

Node.js中的http请求客户端示例(request client) Node.JS有一个request模块,可以很方便的抓取网页内容。最简单的一个示例:varrequest=require('request');request('

标签: nodejs实例教程

本文链接地址:https://www.jiuchutong.com/biancheng/379452.html 转载请保留说明!

上一篇:浅谈Node.js轻量级Web框架Express4.x使用指南(node.js ts)

下一篇:详解Node.js串行化流程控制(nodejs co)

  • 视同销售是指什么
  • 进项税转出大于进项税额还需要填列加计抵减附表吗
  • 教育培训学校怎么翻译
  • 咨询公司要交税吗
  • 所得税季报填错了已经申报了
  • 短期借款属于经营性资产吗
  • 公司商标注册费用属于什么费用
  • 加工皮革出口能申请退税吗
  • 营业执照三证合一是哪一年开始的
  • 收到保险公司财产理赔款怎么做账
  • 一级建造师继续教育
  • 自查补缴税款严重吗
  • 怎么确认权益性投资收益收入?
  • 现金比率在多少比较合适
  • 小规模建筑工程
  • 多缴个税账务处理
  • 劳务成本属于费用项目吗
  • 搬运费没有发票能入成本吗?
  • 财政专项资金不征税收入
  • 其他综合收益会计科目编码
  • 保险公司赔偿的存货自然灾害损失
  • 银行定期存款账户
  • 外汇账户怎么做账
  • 公司股权变更后税务没有变更会有什么后果
  • win10声音设置面板在哪
  • 苹果发布macOS13.5开发者预览版
  • 原材料赔偿会计分录
  • win10您需要权限来执行删除
  • yolov5训练参数说明
  • 金税盘不能清卡的原因
  • java项目报错
  • 包装费 增值税
  • 大学送礼物该送多少钱的
  • ci框架过时了吗
  • 预付和挂账怎么做分录
  • dedecms官网
  • dev怎么保存项目
  • 电子发票该怎么打印出来
  • 土地使用权使用寿命不确定要摊销吗
  • 用于维修安装服务的工具
  • 增值税勾选统计后如何导出明细表
  • 小规模增值税申报未开票收入怎么填
  • 个税系统里的免税收入怎么填
  • 应税销售额什么意思
  • 先付款后收到发票
  • 合理的物料消耗是指
  • 红字申请单如何打印出来
  • 事业单位跨年度错账调整
  • 检验费用会计分录
  • 盘盈盘亏做好记录这句好怎么说
  • 上月留抵税额怎么看
  • 税金及附加如何记账
  • 主营业务成本怎么结转本年利润
  • 退回拨款会计分录怎么做
  • 股息红利等权益性投资收益
  • 建账内容
  • 商业会计机构的组织形式
  • mysql怎么实现
  • mysql使用命令
  • 查找非空顺序表l中第一个最大的元素
  • centos7 cp
  • 重装系统的简写
  • deepin直接安装
  • windows远程桌面怎么开启
  • 苹果Mac系统怎么用光盘安装
  • qtaet2s.exe - qtaet2s是什么进程 有什么用
  • Windows Server 2012实用技巧集锦
  • windowxp音量图标没了
  • win7系统账户名怎么看
  • node.js怎么用
  • shtml精简教程让你知道什么是shtml
  • css 分页
  • 浏览器提示flash被屏蔽
  • JavaScript事件处理器中的event参数使用介绍
  • pygame 安装
  • canvas+javascript
  • jquery和dom对象之间怎么转换
  • javascript的核心组成部分
  • 上海房屋出租交税
  • 纳税申报期过了怎么申报
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设