Java编程——服务器设计方案之应用限流

  1. 云栖社区>
  2. 博客>
  3. 正文

Java编程——服务器设计方案之应用限流

欧阳愠斐 发布时间:2018-08-02 17:31:04 浏览164 评论0

摘要: 前言 在一个高并发系统中对流量的把控是非常重要的,当巨大的流量直接请求到我们的服务器上没多久就可能造成接口不可用,不处理的话甚至会造成整个应用不可用。

前言

在一个高并发系统中对流量的把控是非常重要的,当巨大的流量直接请求到我们的服务器上没多久就可能造成接口不可用,不处理的话甚至会造成整个应用不可用。

       比如最近就有个这样的需求,我作为客户端要向kafka生产数据,而kafka的消费者则再源源不断的消费数据,并将消费的数据全部请求到web服务器,虽说做了负载(有4台web服务器)但业务数据的量也是巨大的,每秒钟可能有上万条数据产生。如果生产者直接生产数据的话极有可能把web服务器拖垮。

       对此就必须要做限流处理,每秒钟生产一定限额的数据到kafka,这样就能极大程度的保证web的正常运转。

其实不管处理何种场景,本质都是降低流量保证应用的高可用。

常见算法

对于限流常见有两种算法:

漏桶算法

令牌桶算法

        漏桶算法比较简单,就是将流量放入桶中,漏桶同时也按照一定的速率流出,如果流量过快的话就会溢出(漏桶并不会提高流出速率)。溢出的流量则直接丢弃。

如下图所示:

       这种做法简单粗暴。

       漏桶算法虽说简单,但却不能应对实际场景,比如突然暴增的流量。

这时就需要用到令牌桶算法:

       令牌桶会以一个恒定的速率向固定容量大小桶中放入令牌,当有流量来时则取走一个或多个令牌。当桶中没有令牌则将当前请求丢弃或阻塞。

相比之下令牌桶可以应对一定的突发流量.

RateLimiter实现

       对于令牌桶的代码实现,可以直接使用Guava包中的RateLimiter。

调用结果如下:

       代码可以看出以每秒向桶中放入两个令牌,请求一次消耗一个令牌。所以每秒钟只能发送两个请求。按照图中的时间来看也确实如此(返回值是获取此令牌所消耗的时间,差不多也是每500ms一个)。

使用有几个值得注意的地方:

       允许先消费,后付款,意思就是它可以来一个请求的时候一次性取走几个或者是剩下所有的令牌甚至多取,但是后面的请求就得为上一次请求买单,它需要等待桶中的令牌补齐之后才能继续获取令牌。

总结

       针对于单个应用的限流够用了,如果是分布式环境可以借助Redis来完成。

 

如果对自己未来有想法,想提升自己,你现在在JAVA这条路上挣扎,也想在IT行业拿高薪,可以参加我们免费的公开课试听学习 干货满满的,选择最适合自己的课程学习,技术大牛亲授,课程内容有:Java工程化、高性能及分布式、高性能、深入浅出。高架构。性能调优、Spring,MyBatis,Netty源码分析和大数据等多个知识点。如果你想拿高薪的,想学习的,想就业前景好的,想跟别人竞争能取得优势的,想进阿里面试但担心面试不过的,你都可以来。群号:468947140

先分享几节你们自己看一下 干货满满的 能看懂这些视频再加吧

高可用集群架构技术进阶篇手把手教你玩转Nginx与Docker

链接:https://pan.baidu.com/s/1NL0QKHQMmDkxqF-TzetdaA

密码:w61n

走向架构师,你必须了解的Java虚拟机高级特性

链接:https://pan.baidu.com/s/1hlrZEhVPdWLWb_Wnr9pgtA

密码:rlxn

高并发处理技术老司机带你玩RabbitMq实现性能倍增

链接:https://pan.baidu.com/s/1tdWyeXgXzbWsltY8NlhdaQ

密码:ripd

【云栖快讯】云栖专辑 | 阿里开发者们的20个感悟,一通百通  详情请点击

网友评论