限制请求的算法/数据结构

问题描述

我有一个每秒调用多次的请求接口,其外观大致如下:

def do_something(timestamp_in_ms)

我正在寻找一种进行简单请求限制的方法,以确保仅处理第二个中的前N个请求,其余的被丢弃。理想情况下,此时间间隔应为持续一秒的每个时间间隔(例如00:00:00.123-00:00:01.123),而不是仅时钟秒数(例如00:00:00-00:00:01)。

另外一个问题是do_something调用非常频繁,因此节流必须高效。

解决方法

您可以使用队列来保存先前N-1个请求的时间戳,并将新候选请求的时间戳与队列中最早请求的时间戳进行比较。

  • 如果差异大于一秒,则执行候选请求并将其时间戳添加到队列中;
  • 如果差异小于一秒,则候选请求被抛出。

每当新的时间戳添加到队列中时,最早的时间戳就会被丢弃。

资源: