最近客户现场的实施工程师反馈,系统在某一时间会特别的卡顿,导致医生无法进行操作,特别是在业务系统对接我们自己的接口程序的时候,老是访问超时导致无法进行下一把操作。
经过追踪发现,这一时间段中,接口程序会频繁刷新导致CPU飙升,内存被大批量占用，经过排查日志发现,第三方程序再这一时间段频繁访问同一个接口,几乎是一秒一次,
跟第三方沟通后才知道他们改了接口访问的频次才导致的问题,而我们的接口也没有进行限流的,所以再后续的更新中给接口加上限流。
所以对于此次的处理进行记录。以下是相关的代码:

限流的方式

固定窗口
滑动窗口
漏桶
令牌桶(此次所展示的算法)
使用的是Redis + Lua方式
Lua介绍
Lua官网

特性：

轻量级: 它用标准C语言编写并以源代码形式开放，编译后仅仅一百余K，可以很方便的嵌入别的程序里。
可扩展: Lua提供了非常易于使用的扩展接口和机制：由宿主语言(通常是C或C++)提供这些功能，Lua可以使用它们，就像是本来就内置的功能一样。
其它特性:

支持面向过程(procedure-oriented)编程和函数式编程(functional programming)；
自动内存管理；只提供了一种通用类型的表（table），用它可以实现数组，哈希表，集合，对象；
语言内置模式匹配；闭包(closure)；函数也可以看做一个值；提供多线程（协同进程，并非操作系统所支持的线程）支持；

通过闭包和table可以很方便地支持面向对象编程所需要的一些关键机制，比如数据抽象，虚函数，继承和重载等。

自定义注解:RateLimiter.java


@Target(ElementType.METHOD)
@Retention(RetentionPolicy.RUNTIME)
@Documented
public @interface RateLimiter {
    /**
     * 限流key
     */
    String key() default "rate_limit:";

    /**
     * 限流时间,单位秒
     */
    int time() default 60;

    /**
     * 限流次数
     */
    int count() default 60;

    /**
     * 返回类型 0 为xml 1为 json
     * @return
     */
    String resultType() default "0";

    /**
     * 限流类型
     */
    LimitType limitType() default LimitType.DEFAULT;

    /**
     * 厂商返回类型
     * @return
     */
    LimitResultType limitResultType() default LimitResultType.NAME_DEFAULT;
}

AOP切面实现:RateLimiterAspect.java

/**
 * 限流
 */
@Aspect
@Component
@Slf4j
public class RateLimiterAspect {
    @Autowired
    private RedisTemplate<Object, Object> redisTemplate;

    @Before("@annotation(rateLimiter)")
    public void doBefore(JoinPoint point, RateLimiter rateLimiter) throws Throwable {
        //限流时间,单位秒
        int time = rateLimiter.time();
        //限流次数
        int count = rateLimiter.count();
        //厂商信息
        LimitResultType limitResultType=rateLimiter.limitResultType();
        //返回值类型
        String resultType = rateLimiter.resultType();
        String luaScript = buildScript();
        //获得key
        String combineKey = getCombineKey(rateLimiter, point);
        List<Object> keys = Collections.singletonList(combineKey);
            RedisScript<Number> redisScript = new DefaultRedisScript<>(luaScript, Number.class);
           //牌产生是速率(个数/秒)数量/时间-向上取整
        int createRate = (int) Math.ceil( count / time);
        Number number = redisTemplate.execute(redisScript, keys, count,createRate,currentMillis,60000);
        try {
            if (number != null && number.intValue() == 0) {
                //Xml格式返回
                if("0".equals(resultType)){
                    log.warn("访问过于频繁，请稍候再试");
                    //院感
                    if(limitResultType.getCode().equals(LimitResultType.NAME.getCode())){
                        throw new XmlRRException(LimitResultType.NAME,"访问过于频繁，请稍候再试");
                    }
                }
            }

        } catch (XmlRRException e) {
            throw e;
        }catch (Exception e) {
            log.error("服务器限流异常，请稍候再试");
            throw new RuntimeException("服务器限流异常，请稍候再试");
        }

    }


  /**
     * 参数构建
     * @return
     */
    public String getCombineKey(RateLimiter rateLimiter, JoinPoint point) {
        StringBuffer stringBuffer = new StringBuffer(rateLimiter.key());
        if (rateLimiter.limitType() == LimitType.IP) {
            stringBuffer.append(IpUtils.getIpAddr(((ServletRequestAttributes) RequestContextHolder.currentRequestAttributes()).getRequest())).append("-");
        }
        MethodSignature signature = (MethodSignature) point.getSignature();
        Method method = signature.getMethod();
        Class<?> targetClass = method.getDeclaringClass();
        stringBuffer.append(targetClass.getName()).append("-").append(method.getName());
        return stringBuffer.toString();
    }

    
  /**
     * redis+Lua 限流脚本(令牌桶算法)
     * @return
     */
    public String buildScript() {
        StringBuilder stringBuilder = new StringBuilder();
        stringBuilder.append("\n local capacity = tonumber(ARGV[1])");
        stringBuilder.append("\n local rate = tonumber(ARGV[2])");
        stringBuilder.append("\n local lastTime = tonumber(ARGV[3]) ");
        stringBuilder.append("\n local residueTokenNum= 0");
        stringBuilder.append("\n local consume=1");
        stringBuilder.append("\n local resetToken = tonumber(ARGV[4]) ");
        stringBuilder.append("\nlocal token = redis.call('hgetall', KEYS[1])");
        stringBuilder.append("\n if table.maxn(token) == 0 then");
        stringBuilder.append("\n local residueTokenNum= tonumber(ARGV[1])");
        stringBuilder.append("\n redis.call('HMSET', KEYS[1], 'capacity', capacity, 'rate', rate,  'lastTime', lastTime,'residueTokenNum', residueTokenNum) ");
        stringBuilder.append("\n redis.call('pexpire',  KEYS[1], tonumber(ARGV[4]))");
        stringBuilder.append("\nelse");
        stringBuilder.append("\nlocal bucket = redis.call('HMGET', KEYS[1], 'capacity', 'rate', 'lastTime','residueTokenNum') ");
        stringBuilder.append("\ncapacity = bucket[1]");
        stringBuilder.append("\nrate =bucket[2] ");
        stringBuilder.append("\nlastTime = bucket[3] ");
        stringBuilder.append("\nresidueTokenNum= bucket[4] ");
        stringBuilder.append("\nlocal nowTime = tonumber(ARGV[3]) ");
        stringBuilder.append("\nlocal generateTokenNum = tonumber(((nowTime - lastTime)/1000)* rate)");
        stringBuilder.append("\nresidueTokenNum = generateTokenNum + residueTokenNum ");
        stringBuilder.append("\nresidueTokenNum = math.min(capacity, residueTokenNum)");
        stringBuilder.append("\nif residueTokenNum >= consume then ");
        stringBuilder.append("\n residueTokenNum = residueTokenNum - consume");
        stringBuilder.append("\n redis.call('hmset', KEYS[1], 'capacity', capacity, 'rate', rate, 'lastTime', nowTime,'residueTokenNum', residueTokenNum) ");
        stringBuilder.append("\nreturn residueTokenNum");
        stringBuilder.append("\nend");
        stringBuilder.append("\nreturn 0 ");
        stringBuilder.append("\nend ");
        return stringBuilder.toString();
    }


}