Java限流——RateLimiter使用
内容导读
互联网集市收集整理的这篇技术教程文章主要介绍了Java限流——RateLimiter使用,小编现在分享给大家,供广大互联网技能从业者学习和参考。文章包含2734字,纯文字阅读大概需要4分钟。
内容图文
概要
在大数据量高并发访问时,经常会出现服务或接口面对暴涨的请求而不可用的情况,甚至引发连锁反映导致整个系统崩溃。此时你需要使用的技术手段之一就是限流,当请求达到一定的并发数或速率,就进行等待、排队、降级、拒绝服务等。在限流时,常见的两种算法是漏桶和令牌桶算法算法。
限流算法
令牌桶(Token Bucket)、漏桶(leaky bucket)和计数器算法是最常用的三种限流的算法。
1. 令牌桶算法
令牌桶算法的原理是系统会以一个恒定的速度往桶里放入令牌,而如果请求需要被处理,则需要先从桶里获取一个令牌,当桶里没有令牌可取时,则拒绝服务。 当桶满时,新添加的令牌被丢弃或拒绝。
优点:能处理瞬间增大的流量,比如现在正常情况下每秒产生5个令牌,在预制了5个令牌,如果一瞬间流量为一秒8个令牌,首先这一秒正常能生成5个令牌,在加上预制了5个令牌,所以可以处理这个瞬间流量
public class RateLimiterDemo { // 每秒生成5个令牌,预制5个令牌 private static RateLimiter limiter = RateLimiter.create(5); publicstaticvoid exec() { // limiter.acquire() 表示消费一个令牌。当桶中有足够的令牌时,则直接返回0,否则阻塞,直到 // 有可用的令牌数才返回,返回的值为阻塞的时间 // limiter.acquire(1); // 如果没有令牌则阻塞if(limiter.tryAcquire()) { // 有令牌则返回true // 处理核心逻辑 } else { // 可以放到队列里等待,也可以直接拒接请求,返回错误界面(稍后重试等) } } }
漏桶算法
它的主要目的是控制数据注入到网络的速率,平滑网络上的突发流量,数据可以以任意速度流入到漏桶中。漏桶算法提供了一种机制,通过它,突发流量可以被整形以便为网络提供一个稳定的流量。 漏桶可以看作是一个带有常量服务时间的单服务器队列,如果漏桶为空,则不需要流出水滴,如果漏桶(包缓存)溢出,那么水滴会被溢出丢弃。
缺点:处理不了瞬间增大的流量
![技术分享图片](/img/jia.gif)
![技术分享图片](/img/jian.gif)
public class RateLimiterDemo { // 10-预热时间 TimeUtil.MILLISECONDS-时间单位 5-速率 private static RateLimiter limiter = RateLimiter.create(5, 10, TimeUtil.MILLISECONDS); publicstaticvoid exec() { // limiter.acquire() 表示消费一个令牌。当桶中有足够的令牌时,则直接返回0,否则阻塞,直到 // 有可用的令牌数才返回,返回的值为阻塞的时间 // limiter.acquire(1); // 如果没有令牌则阻塞if(limiter.tryAcquire()) { // 有令牌则返回true // 处理核心逻辑 } else { // 可以放到队列里等待,也可以直接拒接请求,返回错误界面(稍后重试等) } } }
概要
在大数据量高并发访问时,经常会出现服务或接口面对暴涨的请求而不可用的情况,甚至引发连锁反映导致整个系统崩溃。此时你需要使用的技术手段之一就是限流,当请求达到一定的并发数或速率,就进行等待、排队、降级、拒绝服务等。在限流时,常见的两种算法是漏桶和令牌桶算法算法。
限流算法
令牌桶(Token Bucket)、漏桶(leaky bucket)和计数器算法是最常用的三种限流的算法。
1. 令牌桶算法
令牌桶算法的原理是系统会以一个恒定的速度往桶里放入令牌,而如果请求需要被处理,则需要先从桶里获取一个令牌,当桶里没有令牌可取时,则拒绝服务。 当桶满时,新添加的令牌被丢弃或拒绝。
优点:能处理瞬间增大的流量,比如现在正常情况下每秒产生5个令牌,在预制了5个令牌,如果一瞬间流量为一秒8个令牌,首先这一秒正常能生成5个令牌,在加上预制了5个令牌,所以可以处理这个瞬间流量
-
public class RateLimiterDemo {
-
// 每秒生成5个令牌,预制5个令牌
-
private static RateLimiter limiter = RateLimiter.create(5);
-
-
-
public static void exec () {
-
// limiter.acquire() 表示消费一个令牌。当桶中有足够的令牌时,则直接返回0,否则阻塞,直到
-
// 有可用的令牌数才返回,返回的值为阻塞的时间
-
// limiter.acquire(1); // 如果没有令牌则阻塞
-
if(limiter.tryAcquire()) { // 有令牌则返回true
-
// 处理核心逻辑
-
} else {
-
-
// 可以放到队列里等待,也可以直接拒接请求,返回错误界面(稍后重试等)
-
}
-
}
-
}
漏桶算法
它的主要目的是控制数据注入到网络的速率,平滑网络上的突发流量,数据可以以任意速度流入到漏桶中。漏桶算法提供了一种机制,通过它,突发流量可以被整形以便为网络提供一个稳定的流量。 漏桶可以看作是一个带有常量服务时间的单服务器队列,如果漏桶为空,则不需要流出水滴,如果漏桶(包缓存)溢出,那么水滴会被溢出丢弃。
缺点:处理不了瞬间增大的流量
-
public class RateLimiterDemo {
-
-
// 10-预热时间 TimeUtil.MILLISECONDS-时间单位 5-速率
-
private static RateLimiter limiter = RateLimiter.create(5, 10, TimeUtil.MILLISECONDS);
-
-
-
public static void exec () {
-
// limiter.acquire() 表示消费一个令牌。当桶中有足够的令牌时,则直接返回0,否则阻塞,直到
-
// 有可用的令牌数才返回,返回的值为阻塞的时间
-
// limiter.acquire(1); // 如果没有令牌则阻塞
-
if(limiter.tryAcquire()) { // 有令牌则返回true
-
// 处理核心逻辑
-
} else {
-
-
// 可以放到队列里等待,也可以直接拒接请求,返回错误界面(稍后重试等)
-
}
-
}
-
}
原文:https://www.cnblogs.com/youngdeng/p/14445297.html
内容总结
以上是互联网集市为您收集整理的Java限流——RateLimiter使用全部内容,希望文章能够帮你解决Java限流——RateLimiter使用所遇到的程序开发问题。 如果觉得互联网集市技术教程内容还不错,欢迎将互联网集市网站推荐给程序员好友。
内容备注
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 gblab@vip.qq.com 举报,一经查实,本站将立刻删除。
内容手机端
扫描二维码推送至手机访问。