位置: IT常识 - 正文

Node.js基础入门第六天(node.js入门教程)

编辑:rootadmin
经过前面五天的学习,对Node.js开发已经逐渐入门,今天结合之前学到的东西,开发一个小示例【爬取某图片网站的图片】来巩固基础知识,仅供学习分享使用,如有不足之处,还请指正。 ...

推荐整理分享Node.js基础入门第六天(node.js入门教程),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:node.js基础知识,node.js基础知识,node-js,node.js教程详细,node.js基础知识,node.js快速入门,node.js入门教程,node.js入门教程,内容如对您有帮助,希望把文章链接给更多的朋友!

经过前面五天的学习,对Node.js开发已经逐渐入门,今天结合之前学到的东西,开发一个小示例【爬取某图片网站的图片】,仅供学习分享使用,如有不足之处,还请指正。

涉及知识点

开发一个小爬虫,涉及的知识点如下所示:

https模块,主要是用户获取网络资源,如:网页源码,图片资源等。cheerio模块,主要用于解析html源码,并可访问,查找html节点内容。fs模块,主要用于文件的读写操作,如保存图片,日志等。闭包,主要是对于异步操作,对象的隔离保护。cheerio简介什么是cheerio ?

cheerio是为服务器特别定制的,快速、灵活、实施的jQuery核心实现。主要用于在服务端解析html。特点如下所示:

易用,语法类似jQuery语法,从jQuery库中去除了所有 DOM不一致性和浏览器尴尬的部分。解析快,比JSDOM快八倍。灵活,Cheerio 封装了兼容的htmlparser。Cheerio 几乎能够解析任何的 HTML 和 XML document。安装cheerio

首先在命令行,切换到程序目录,然后输入安装命令进行安装,如下所示:

1 cnpm install cheerio

安装过程,如下所示:

准备工作

在编写爬虫之前,首先需要分析目标内容,本次需要爬取的是某网站,星空类型的图片内容,经过分析,发现所有的图片都是在ul下每一个li中的a标签内的img中,本次只需要解析出img的src属性,即可获取图片的下载路径。如下所示:

Node.js基础入门第六天(node.js入门教程)

核心代码

经过以上分析,通过Node.js编写代码,分为两步,获取所有图片的url路径,即解析所有目标img元素的src属性。然后再下载具体图片进行保存即可。

引用所需要的功能模块,如下所示:

1 var https = require('https');2 var cheerio = require('cheerio');3 var fs = require('fs');

获取并解析html页面内容,如下所示:

1 //爬取的网址 2 var addrs=['https://www.*****.com/topic/show_27202_1.html','https://www.******.com/topic/show_27202_2.html','https://www.*****.com/topic/show_27202_3.html']; 3 var logger = fs.createWriteStream('./download/log.txt',{flags:'a+',autoClose:'true'}); 4 5 for(i in addrs){ 6 (function(num){ 7 var addr = addrs[num]; 8 //创建目录 9 var p1 = new Promise(function(resolve,reject){10 fs.access('./download',function(err){11 if(err){12 fs.mkdir('./download',function(e){13 if(e){14 console.log('创建失败');15 }16 });17 }else{18 resolve("success");19 }20 }); 21 });22 23 p1.then(function(datas){24 var html='';25 var p2 = new Promise(function(resolve,reject){26 https.get(addr,function(res){27 res.on('data',function(data){28 html+=data.toString();29 })30 res.on('end',function(){31 resolve("success");32 });33 34 });35 36 });37 p2.then(function(data){38 //下载完成后,进行解析39 const $ =cheerio.load(html);40 var lis = $('#img-list-outer').find('li');41 for(var j=0;j<lis.length-1;j++){42 var li = lis[j];43 var src =$(li).find('a').find('img').attr('src');44 //console.log(src);45 //console.log('-------------------------');46 var imgurl='https:'+src;47 download(imgurl);48 var msg='['+j+']下载成功:'+imgurl;49 logger.write(msg+'\n');50 console.log(msg);51 }52 });53 });54 })(i);55 }

注意:因为所有爬取的目标共分为3页,所以用到了循环,并且在循环中用到了闭包。

下载并保存单张图片代码,如下所示:

1 //下载图片 2 function download(imgurl){ 3 var p1 = new Promise(function(resolve,reject){ 4 https.get(imgurl,function(res){ 5 var imgName=imgurl.substr(imgurl.lastIndexOf('/')+1); 6 var stream = fs.createWriteStream('./download/'+imgName); 7 res.pipe(stream); 8 setTimeout(function(){ 9 resolve('success');10 },300);11 12 });13 });14 p1.then(function(data){15 return;16 });17 }示例截图

开发完成后,运行代码,如下所示:

爬取的图片,保存在文件夹中,如下所示:

注意:添加日志,是为了方便记录程序执行过程,对比图片和日志,便于发现问题。

备注

学而时习之,不亦说乎?有朋自远方来,不亦乐乎?人不知而不愠,不亦君子乎?

本文链接地址:https://www.jiuchutong.com/zhishi/311587.html 转载请保留说明!

上一篇:给织梦添加复制文档的功能(织梦网站怎么添加关键词)

下一篇:Dedecms 自定义表单提交后自动发送表单数据到指定邮箱的思路(dedecms使用教程)

  • 华为nova7如何取消抬起亮屏(华为nova7如何取消锁屏壁纸图片)

    华为nova7如何取消抬起亮屏(华为nova7如何取消锁屏壁纸图片)

  • 微博如何设置深色模式(微博如何设置深色模式OPPO)

    微博如何设置深色模式(微博如何设置深色模式OPPO)

  • 苹果xs突然不能向上划屏解锁(苹果xs突然不能快充)

    苹果xs突然不能向上划屏解锁(苹果xs突然不能快充)

  • 如何关闭qq礼物墙(如何关闭qq我的礼物)

    如何关闭qq礼物墙(如何关闭qq我的礼物)

  • 华为售后能修耳机吗(华为售后能修耳机充电仓吗)

    华为售后能修耳机吗(华为售后能修耳机充电仓吗)

  • 微信扫码辅助验证有没有风险(微信扫码辅助验证身份证后四位)

    微信扫码辅助验证有没有风险(微信扫码辅助验证身份证后四位)

  • 交换机黄灯和绿灯区别(交换机黄灯和绿灯交替闪烁)

    交换机黄灯和绿灯区别(交换机黄灯和绿灯交替闪烁)

  • mate30四个摄像头都是干嘛的

    mate30四个摄像头都是干嘛的

  • 苹果手机更新id设置怎么回事(苹果手机更新Id设置时出现无法联系服务器怎么办)

    苹果手机更新id设置怎么回事(苹果手机更新Id设置时出现无法联系服务器怎么办)

  • 手机号异常是什么意思(手机号异常是什么鬼)

    手机号异常是什么意思(手机号异常是什么鬼)

  • ipad无法安装微信(ipad2020无法安装微信)

    ipad无法安装微信(ipad2020无法安装微信)

  • 手机可以上网电脑不能上网(手机可以上网电脑连不上网怎么回事)

    手机可以上网电脑不能上网(手机可以上网电脑连不上网怎么回事)

  • 主板不通电一般是哪里出问题(主板不通电一般什么问题)

    主板不通电一般是哪里出问题(主板不通电一般什么问题)

  • 添加蜂窝号码什么意思(增加蜂窝号码)

    添加蜂窝号码什么意思(增加蜂窝号码)

  • fat模式和fit模式区别

    fat模式和fit模式区别

  • apple id是什么样子的(apple id的是什么)

    apple id是什么样子的(apple id的是什么)

  • iPhone11pro有几种机身颜色(苹果11pro有几款)

    iPhone11pro有几种机身颜色(苹果11pro有几款)

  • 手机通话声音小怎么办(手机通话声音小,免提声音正常)

    手机通话声音小怎么办(手机通话声音小,免提声音正常)

  • qq你画我猜在哪里玩(qq你画我猜怎么玩)

    qq你画我猜在哪里玩(qq你画我猜怎么玩)

  • 虎扑突然回不了帖了怎么办(虎扑为什么回复不了)

    虎扑突然回不了帖了怎么办(虎扑为什么回复不了)

  • 虎扑怎么重新编辑帖子(虎扑如何改名)

    虎扑怎么重新编辑帖子(虎扑如何改名)

  • 抖音卸载后作品还有吗(抖音卸载后作品没了怎么办)

    抖音卸载后作品还有吗(抖音卸载后作品没了怎么办)

  • 跟着AI学AI(1): 线性回归模型(ai线型工具介绍)

    跟着AI学AI(1): 线性回归模型(ai线型工具介绍)

  • ps怎么把图片套入模板(ps怎么把图片套入样机快捷键)

    ps怎么把图片套入模板(ps怎么把图片套入样机快捷键)

  • 幼儿园营业税税率是多少
  • 研发人员的社保也要进入研发费用吗
  • 取用备用金要188分
  • 购货方付款会计分录
  • 简易征收的收入包括哪些
  • 公司现金支付管理办法
  • 房产企业赠送无形资产
  • 未加工食材
  • 工程预收款如何处理
  • 可变股权转让对价会计处理怎么做?
  • 募集资金怎么算
  • 资管新规出台目的
  • 农民工工资怎么交个人所得税
  • 计提个人负担的社会保险费分录
  • 外地职工医保怎么报销
  • 收到安装费发票怎么做分录
  • 加盟费是一年一收还是终身的
  • 普通增值税发票跨越可以作废吗
  • 小规模没有发票可以入账吗
  • 每股收益增长率计算公式
  • 咨询公司流程完整
  • 营改增之后账务怎么处理
  • 进口小汽车消费税率
  • linux中loop的含义
  • PHP daddslashes 使用方法介绍
  • 湘菜尖椒炒肉的做法
  • 国债持有期间未兑付的利息所得税
  • 纳税人转让旧房及建筑物
  • 微前端Qiankun
  • 现代信号处理张贤达pdf
  • 美团收购联联
  • is-l命令
  • 年度总产值等于营业收入
  • 外地工程预缴的个人所得税是什么申报
  • 其他权益工具投资公允价值变动怎么计算
  • 政府补贴什么时候开始的
  • 关联企业无息借款如何征税?
  • 房地产开发企业资质证书
  • 工程项目买保险没有合同 情况说明怎么写
  • 材料暂估入库的账务处理
  • 小规模纳税人免税政策
  • 固定资产折旧账务处理例题
  • 弱电工程属于什么行业
  • 二类银行卡是什么卡
  • 无法在你的位置安装windows
  • ubuntu20.04
  • mysql主键冲突但数据不存在
  • Win10预览版拆弹
  • 如何系统还原xp
  • windows service 2008 r2
  • 安装双系统ubuntu和win
  • ubuntu切换登录用户
  • 无线网络连接不上显示无ip分配
  • pssvc.exe - pssvc是什么进程 有什么用
  • ntldr文件在哪
  • winxp开启远程桌面连接
  • centos zsh
  • ghost7sp1安装教程
  • powergenie是什么程序
  • win10升级最新版
  • win8系统怎样
  • win8.1怎么用
  • Win10 Mobile Build 14327上手视频评测
  • Win10红石版Edge浏览器新扩展功能:关灯(附扩展程序使用)
  • js中attribute
  • python实现人脸识别代码
  • 计算机图形学中点画圆法
  • js设置窗口大小
  • easyui搜索框
  • jquery对象可以直接使用dom吗
  • jquery 输入框输入完触发事件
  • 盗梦英雄限时占卜顺序
  • 在android
  • 荷兰基本工资一个月多少工资
  • 餐饮发票真伪查询系统
  • 公司购买车辆是什么费用
  • 提高增值税税率是什么意思
  • 电子票据如何报销
  • 发票挂失费用
  • 新郑市税务局
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设