位置: 编程技术 - 正文

浅谈Koa服务限流方法实践(服务器限制流量)

编辑:rootadmin

推荐整理分享浅谈Koa服务限流方法实践(服务器限制流量),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:如何实现服务限流,限制端口流量,如何实现服务限流,服务端限流,如何实现服务限流,如何实现服务限流,服务器限流,服务端限流,内容如对您有帮助,希望把文章链接给更多的朋友!

最近接了一个需求,很简单,就是起一个server,收到请求时调用某个提供好的接口,然后把结果返回。因为这个接口的性能问题,同时在请求的不能超过特定数目,要在服务中进行限流。

限流的要求是,限制同时执行的数目,超出这个数目后要在一个队列中进行缓存。

koa 中间件不调用 next

最初的想法是在 koa 中间件中进行计数,超过6个时将next函数缓存下来。等正在进行中的任务结束时,调用next继续其他请求。

之后发现 koa 中间件中,不执行next函数请求并不会停下,而是不再调用之后的中间件,直接返回内容。

以上代码首先在控制台打出 ‘middleware 1' => 浏览器收到 ‘hello' => 控制台打出 ‘middleware 2'。

这里还有一个要注意的地方,就是一个请求已经结束(finish)后,他的next方法还是可以继续调用,之后的middleware还是继续运行的(但是对ctx的修改不会生效,因为请求已经返回了)。同样,关闭的请求(close)也是同样的表现。

使用 await 让请求进行等待

延迟next函数执行不能达到目的。接下来自然想到的就是使用await让当前请求等待。await的函数返回一个Promise,我们将这个Promise中的resolve函数存储到队列中,延迟调用。

上面这段代码,在delay函数中返回一个Promise,Promise的resolve函数存入队列中。设置定时3s后执行队列中的resolve函数,使请求继续执行。

针对路由进行限流,还是针对请求进行限流?

限流的基本原理实现后,下面一个问题就是限流代码该写在哪里?基本上,有两个位置:

浅谈Koa服务限流方法实践(服务器限制流量)

针对接口进行限流

由于我们的需求中,限流是因为要请求接口的性能有限。所以我们可以单独针对这个请求进行限流:

下面还有一个方便复用的版本。

针对路由进行限流

这种方式是写一个koa中间件,在中间件中进行限流:

之后针对不同路由在router中使用这个中间件就好了:

比较

实现了针对接口进行限流,觉得逻辑有些乱,于是改用了针对路由进行限流,一切运行的很完美。

直到我又接了个需求,是要请求三次这个接口返回三次请求的结果数组。现在问题来了,我们不能直接调用接口,因为要限流。也不能直接调用请求接口的函数因为我们的限流是以路由为单位的。那怎么办呢?我们只有请求这个路由了,自己请求自己。。。

需要注意的地方

监听close事件,将请求从队列中移出已经存储在队列中的请求,有可能遇到用户取消的情况。前面说过koa中即使请求取消,之后的中间件还是会运行,也就是还会执行需要限流的接口,造成浪费。

可以监听close事件来达到这个目的,每个请求我们需要用hash值来标记:

设置超时时间

为了防止用户等待过长时间,需要设置超时时间,这在koa中很容易实现:

当前队列已经过长

如果当前队列已经过长了,即使加入队列中也会超时。因此我们还需要处理队列过长的情况:

标签: 服务器限制流量

本文链接地址:https://www.jiuchutong.com/biancheng/379473.html 转载请保留说明!

上一篇:node文件批量重命名的方法示例(nodejs重命名文件)

下一篇:nodejs中安装ghost出错的原因及解决方法(nodejs ghost)

  • 一般纳税人增值税怎么做账务处理
  • 什么是增值税扣缴义务
  • 税法规定的增值税
  • 跨年取得的发票怎么入账
  • 盈利能力也可以反映短期偿债能力
  • 增值税发票是真发票,但是平台查验不到
  • 加油发票样式图
  • 销售费用变动率税收政策
  • 住宿发票税率有哪4种
  • 财政拨款收入和财政补助收入的区别
  • 自产自销的苗木怎么做账
  • 有哪些扣除项目可以抵扣
  • 政府性搬迁补偿收入的税务处理
  • 股权出资登记管理办法已废止
  • 工程结算与工程施工如何结转
  • 接受控股股东的非现金资产捐赠
  • 纯外贸企业进项要转出吗为啥
  • 承兑汇票贴现计算公式
  • 信用卡逾期滞纳金是按天还是按月计算
  • 应收账款换入固定资产双方账务处理
  • 哪些发票不可进行进项税抵扣?
  • 公立医院固定资产贷款相关规定
  • 工资薪金所得适用的税率是
  • 未办理三证合一营业执照会注销吗
  • 商品混凝土增值税政策
  • 离婚房屋权属变动怎么办
  • 契税如果没有按时交会怎么办
  • 投资利税率计算器在线计算
  • 免税的发票可以用来抵税吗
  • 所得税收入包含哪些
  • 住宿发票3%和6%区别
  • 个税所得期和所得税区别
  • 资源税改革最新政策
  • 苹果双系统不小心删了苹果系统
  • 剑灵怎么双开2023
  • 承兑汇票公对公多久到账
  • 初中英语的学科知识与能力主要考什么
  • rancher2教程
  • 设置系统自动更新一般通过什么窗口
  • 发票认证平台上不去
  • 天猫的软件服务费指的是什么
  • 未分配利润转增股本交印花税
  • php is_writable
  • 出口货物视同内销征税的会计核算
  • 长期借款利息调整会计分录
  • vue移动端pc端适配方案
  • 药品进销差价的计算公式
  • php获取文件内容的方法
  • 合并会计报表的编制
  • 是否就地汇总纳税
  • 织梦如何使用
  • 将一个表中的字段更新到另一个表
  • 营业净利率和总资产周转率正相关
  • 工商年报纳税总额包括个人所得税吗
  • 小规模如何缴纳税款
  • 私车公用涉及的税种有哪些
  • 服务咨询类合同
  • 收到存款利息收入用什么凭证
  • aspnet数据库访问
  • sql server常规错误
  • win8怎么连接
  • 服务器维护和计划的区别
  • win7系统升级到win10后,还能还原回来吗
  • linux版的oracle
  • mac 特殊符号
  • centos7.0安装网卡驱动
  • windows 查看补丁
  • ubuntu配置vsftpd
  • win7打开游戏显示已停止工作
  • win8.1删除所有内容并重新安装
  • 基于核心素养下的大单元教学设计
  • Android Fragment学习笔记(2) ----使用ListFragment显示列表(上)
  • python文件管理系统难点总结
  • 置顶pyq会被自己屏蔽的人看到吗
  • 工作笔记范文100篇简短
  • 前端跑马灯实现
  • JavaScript中的数据类型
  • javascript零基础
  • 北京税务局网上开发票
  • 浦东税务15所
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设