位置: 编程技术 - 正文

利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程)

编辑:rootadmin

推荐整理分享利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:用node写接口,node怎么写,用nodejs做的项目,node.js使用教程,怎么用node.js写接口,怎么用node.js写接口,怎么用node.js写接口,node.js怎么用,内容如对您有帮助,希望把文章链接给更多的朋友!

前言

说起写node爬虫的原因,真是羞羞呀。一天,和往常一样,晚上吃过饭便刷起知乎来,首页便是推荐的你见过最漂亮的女生长什么样?,点进去各种漂亮的妹纸爆照啊!!!,看的我好想把这些好看的妹纸照片都存下来啊!一张张点击保存,就在第张得时候,突然想起。我特么不是程序员么,这种手动草做的事,怎么能做,不行我不能丢程序员的脸了,于是便开始这次爬虫之旅。

原理

初入爬虫的坑,没有太多深奥的理论知识,要获取知乎上帖子中的一张图片,我把它归结为以下几步。

准备一个url(当然是诸如你见过最漂亮的女生长什么样?&#;) 获取这个url的html内容,并分析其中的dom结构,遍历找到这些漂亮的妹纸图片url 获取图片内容 将图片内容写入本地文件

开始动手

大概知道原理之后我们就可以开干了

准备一个url

这个最简单了,去知乎随便一搜就是一大把,我们以

发一张你认为很漂亮的美女照片?

为例子,先来分析一下这个页面的dom结构,其实很简单,知乎的一个页面中会包含很多种类型的图片,有头像,用户评价上传的图片啥的。基本上在noscript种都可以找到对应的图片地址。

利用node.js写一个爬取知乎妹纸图的小爬虫(nodejs实例教程)

获取这个url的html内容,并且拿到当前页面noscript中的img链接

这一步我们需要会点简单的nodejs的知识,以及用到一个库叫cheerio,这个库具体是用来做什么的,详细请移步cheerio。

简单来说就是可以在命令行中使用jQuery来搜索遍历获取相应的元素。

那么怎样才能获取这个帖子的html呢

使用nodejs的https模块

通过以上操作拿到网站的html之后,便是遍历出我们需要的图片地址来了

有了图片的url,如何下载到本地呢?

我们需要使用request这个库,简单的调用一下api再结合node原生写文件的api。

到这里就大功告成了,是不是很简单!!!已经将源码上传,欢迎大家下载查看。

gitHub地址:

详解Node.js串行化流程控制 串行任务:需要一个接着一个坐的任务叫做串行任务。可以使用回调的方式让几个异步任务按顺序执行,但如果任务过多,必须组织一下,否则过多的

win系统下nodejs环境安装配置 win系统下nodejs安装及环境配置,具体内容如下第一步:下载安装文件下载nodejs,官网:

Node.js中的http请求客户端示例(request client) Node.JS有一个request模块,可以很方便的抓取网页内容。最简单的一个示例:varrequest=require('request');request('

标签: nodejs实例教程

本文链接地址:https://www.jiuchutong.com/biancheng/379452.html 转载请保留说明!

上一篇:浅谈Node.js轻量级Web框架Express4.x使用指南(node.js ts)

下一篇:详解Node.js串行化流程控制(nodejs co)

  • 应交税费负数调整到其他流动资产
  • 如何计提当月的个人所得税?
  • 金税盘维护费全额抵扣吗
  • 销项发票能不能留抵
  • 普票销项负数发票
  • 购买债券的利息会计分录
  • 银行回单日期晚于做账日期
  • 应交税金的期末余额怎么算
  • 收取质保金会计处理
  • 企业法人投资股4 账户
  • 销项负数发票怎么填报增值税报表
  • 工程的进项税怎么处理
  • 单位统一为员工办的银行卡属于对公账户吗
  • 免征增值税的进项税额如何处理
  • 银行手续费回单可以作为报销
  • 代收代付水电费会计分录
  • 股东收回投资要交税吗
  • 个人所得税申报截止时间
  • 以前年度多计提的税金怎么调整
  • 购买银行承兑汇票是否违法
  • 电脑运行慢怎么清理c盘
  • php数组函数,选班长
  • php实验步骤
  • php文本转数字
  • mac的快捷键在哪
  • 屏幕颜色怎么变
  • 按揭贷款到账时间
  • 马瑙斯市
  • 世界上最早的数码相机
  • 最大的apple商店
  • PHP:imagecreatefromgd()的用法_GD库图像处理函数
  • webpack--》webpack底层深入讲解,从初识到精通,真正实现从0到1的过程
  • 不动产和无形资产的区别
  • php如何实现自动加载
  • 自然人税收管理系统
  • 诉讼代理费计入事业单位什么科目
  • 非货币性资产交换
  • dedecms采集怎么用
  • 二手车交易规则最新
  • 坏账准备计入科目
  • 即征即退进项划分说明
  • 装修款需要开发票吗
  • mysql查询重复的全部删除
  • 业务招待费报销制度及流程
  • 医院要发票
  • 存货跌价准备在年报哪里
  • 合同法有什么规定
  • 电商平台返佣金个人税点
  • 电力安装工程合同税率能开13%
  • 固定资产清理不及时
  • 只有进项要交税吗
  • 收购一家公司需要多少股份
  • 企业取得土地使用权会计处理
  • 明细分类账表格
  • access数据库sql语言
  • 一个 sql 查询很慢,从哪些地方进行优化?
  • 网站windows
  • MAC怎么将单独一个应用静音
  • 利用()可以对系统进行全面的设置
  • xp系统开机出现英文怎么办
  • win8系统的运行在哪
  • 使用jQuery的ajax方法向服务器发出get和post请求的方法
  • css使用教程
  • 怎样使用jquery
  • vue移动端app开发流程
  • js函数关键字
  • jquery获取某个属性的值
  • python3.7怎么安装pil
  • unity中ngui
  • js实现滑动效果
  • 原生js实现promise.all
  • android获取屏幕大小
  • 车辆购置税查询官网四川
  • 社保扣缴客户端密码
  • 贵州省税务总局领导班子
  • 鸦片战争签订了条约
  • 领导班子和领导干部评议意见表
  • 深圳市国家税务局电话
  • 浙江电子税务局app
  • 税务局风险防控工作总结
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设