Redis 服务器是一个 事件驱动程序,服务器需要处理以下两类事件:

  • 文件事件(file event):Redis服务器通过套接字与客户端进行连接,而文件事件就是服务器对 套接字操作 的抽象。服务器与客户端的通信会产生相应的文件事件,而服务器则通过监听并处理这些事件来完成一系列网络通信操作。
  • 时间事件(time event):Redis服务器中的一些操作(比如serverCron函数)需要在给定的时间点执行,而时间事件就是服务器对这类 定时操作 的抽象。

文件事件

Redis 基于 Reactor 模式开发了自己的网络事件处理器:这个处理器被称为 文件事件处理器(fileevent handler):

  • 文件事件处理器使用 I/O 多路复用(multiplexing)来同时监听多个套接字,并根据套接字目前执行的任务来为套接字关联不同的事件处理器。
  • 当被监听的套接字准备好执行连接应答(accept)、读取(read)、写入(write)、关闭(close)等操作时,与操作相对应的文件事件就会产生,这时文件事件处理器就会调用套接字之前关联好的事件处理器来处理这些事件。

虽然文件事件处理器以单线程方式运行,但通过使用I/O多路复用程序来监听多个套接字,文件事件处理器既实现了高性能的网络通信模型,又可以很好地与 Redis服务器中其他同样以单线程方式运行的模块进行对接,这保持了 Redis 内部单线程设计的简单性。

文件事件处理器的构成

下图展示了文件事件处理器的四个组成部分,它们分别是套接字、I/O多路复用程序、文件事件分派器(dispatcher),以及事件处理器。

img

文件事件是对套接字操作的抽象,每当一个套接字准备好执行连接应答(accept)、写入、读取、关闭等操作时,就会产生一个文件事件。因为一个服务器通常会连接多个套接字,所以多个文件事件有可能会并发地出现。

I/O多路复用程序负责监听多个套接字,并向文件事件分派器传送那些产生了事件的套接字。尽管多个文件事件可能会并发地出现,但I/O多路复用程序总是会将所有产生事件的套接字都放到一个队列里面,然后通过这个队列,以 有序(sequentially)、同步(synchronously)、每次一个套接字的方式向文件事件分派器传送套接字。当上一个套接字产生的事件处理完毕之后,I/O多路复用程序才会继续向文件事件分派器传送下一个套接字。

文件事件分派器接收I/O多路复用程序传来的套接字,并根据套接字产生的事件的类型,调用相应的事件处理器。

服务器会为执行不同任务的套接字关联不同的事件处理器,这些处理器是一个个函数,它们定义了某个事件发生时,服务器应该执行的动作。

I/O多路复用程序的实现

Redis 的 I/O 多路复用程序的所有功能都是通过包装常见的 select、epoll、evport 和 kqueue 这些 I/O 多路复用函数库来实现的,每个 I/O 多路复用函数库在Redis 源码中都对应一个单独的文件。

Redis 在 I/O多 路复用程序的实现源码中用 #include 宏定义了相应的规则,程序会在编译时自动选择系统中性能最高的I/O多路复用函数库来作为 Redis 的 I/O 多路复用程序的底层实现。

事件的类型

I/O 多路复用程序可以监听多个套接字的 ae.h/AE_READABLE 事件和 ae.h/AE_WRITABLE 事件,这两类事件和套接字操作之间的对应关系如下:

  • 当套接字变得可读(客户端 write 套接字),或者有新的可应答(acceptable)套接字出现时(客户端 connect 服务器的监听套接字),套接字产生AE_READABLE 事件。
  • 当套接字变得可写时(客户端 read 套接字),套接字产生 AE_WRITABLE 事件。

I/O 多路复用程序允许服务器同时监听套接字的 AE_READABLE 事件和 AE_WRITABLE 事件,如果一个套接字同时产生了这两种事件,那么文件事件分派器会先读后写。

API

ae.c/aeCreateFileEvent 函数接受一个套接字描述符、一个事件类型,以及一个事件处理器作为参数,将给定套接字的给定事件加入到I/O多路复用程序的监听范围之内,并对事件和事件处理器进行关联。

ae.c/aeDeleteFileEvent 函数接受一个套接字描述符和一个监听事件类型作为参数,让I/O多路复用程序取消对给定套接字的给定事件的监听,并取消事件和事件处理器之间的关联。ae.c/aeGetFileEvents 函数接受一个套接字描述符,返回该套接字正在被监听的事件类型:

  • 如果套接字没有任何事件被监听,那么函数返回 AE_NONE。

  • 如果套接字的读事件正在被监听,那么函数返回 AE_READABLE。

  • 如果套接字的写事件正在被监听,那么函数返回 AE_WRITABLE。

  • 如果套接字读和写事件正在被监听,那么函数返回 AE_READABLE|AE_WRITABLE。

ae.c/aeWait 函数接受一个套接字描述符、一个事件类型和一个毫秒数为参数,给定时间内阻塞并等待套接字的给定类型事件产生,当事件成功产生/等待超时,函数返回。

ae.c/aeApiPoll 函数接受一个 sys/time.h/struct timeval 结构为参数,并在指定时间內,阻塞并等待所有被 aeCreateFileEven 函数设置为监听状态的套接字产生文件事件,当有至少一个事件产生/等待超时,函数返回。

ae.c/aeProcessEvents 函数是文件事件分派器,它先调用 aeApiPoll 函数来等待事件产生,然后遍历所有已产生的事件,并调用相应的事件处理器来处理这些事件。

ae.c/aeGetApiName 函数返回I/O多路复用程序底层所使用的 I/O 多路复用函数库的名称:返回 “epoll” 表示底层为 epoll 函数库,返回 “select” 表示底层为 select 函数库,诸如此类。

文件事件的处理器

Redis 为文件事件编写了多个处理器,这些事件处理器分别用于实现不同的网络通信需求,比如说:

  • 为了对连接服务器的各个客户端进行应答,服务器要为监听套接字关联连接应答处理器。

  • 为了接收客户端传来的命令请求,服务器要为客户端套接字关联命令请求处理器。

  • 为了向客户端返回命令的执行结果,服务器要为客户端套接字关联命令回复处理器。

  • 当主服务器和从服务器进行复制操作时,主从服务器都需要关联特别为复制功能编写的复制处理器。

在这些事件处理器里面,服务器最常用的要数与客户端进行通信的连接应答处理器、命令请求处理器和命令回复处理器。

客户端与服务端通信:

img

时间事件

Redis 的时间事件分为以下两类:

  • 定时事件:让一段程序在指定的时间之后执行一次。
  • 周期性事件:让一段程序每隔指定时间就执行一次。

一个时间事件主要由以下三个属性组成:

  • id:服务器为时间事件创建的全局唯一ID。ID号按从小到大的顺序递增。

  • when:毫秒精度的UNIX时间戳,记录了时间事件的到达(arrive)时间。

  • timeProc:时间事件处理器,一个函数。当时间事件到达时,服务器就会调用相应的处理器来处理事件。

一个时间事件是定时事件还是周期性事件取决于时间事件处理器的返回值:

  • 如果事件处理器返回 ae.h/AE_NOMORE,那么这个事件为定时事件:该事件在达到一次之后就会被删除,之后不再到达。
  • 如果事件处理器返回一个非 AE_NOMORE 的整数值,那么这个事件为周期性时间:当一个时间事件到达之后,服务器会根据事件处理器返回的值,对时间事件的 when 属性进行更新,让这个事件在一段时间之后再次到达,并以这种方式一直更新并运行下去。比如说,如果一个时间事件的处理器返回整数值30,那么服务器应该对这个时间事件进行更新,让这个事件在30毫秒之后再次到达。

目前版本的 Redis 只使用周期性事件,而没有使用定时事件。

实现

服务器将所有时间事件都放在一个无序链表中,每当时间事件执行器运行时,它就遍历整个链表,查找所有已到达的时间事件,并调用相应的事件处理器。

保存时间事件的链表为无序链表,指的不是链表不按ID排序,而是说,该链表不按 when 属性的大小排序。

API

时间事件应用实例:serverCron函数

持续运行的 Redis 服务器需要定期对自身的资源和状态进行检查和调整,从而确保服务器可以长期、稳定地运行,这些定期操作由 redis.c/serverCron 函数负责执行,它的主要工作包括:

  • 更新服务器的各类统计信息,比如时间、内存占用、数据库占用情况等。

  • 清理数据库中的过期键值对。

  • 关闭和清理连接失效的客户端。

  • 尝试进行 AOF 或 RDB 持久化操作。

  • 如果服务器是主服务器,那么对从服务器进行定期同步。

  • 如果处于集群模式,对集群进行定期同步和连接测试。

Redis 服务器以周期性事件的方式来运行 serverCron 函数,在服务器运行期间,每隔一段时间,serverCron 就会执行一次,直到服务器关闭为止。

可以通过修改 hz 选项来调整 serverCron 的每秒执行次数。

事件的调度与执行

因为服务器中同时存在文件事件和时间事件两种事件类型,所以服务器必须对这两种事件进行调度。事件的调度和执行由 ae.c/aeProcessEvents 函数负责,以下是该函数的伪代码表示:

img

在实际中,处理已产生文件事件的代码直接写在 aeProcessEvents 函数里面。

将 aeProcessEvents 函数置于一个循环里面,加上初始化和清理函数,这就构成了 Redis 服务器的主函数。

一次完整的事件调度和执行过程:

img

重点回顾

  • Redis 服务器是一个事件驱动程序,服务器处理的事件分为时间事件和文件事件两类。

  • 文件事件处理器是基于 Reactor 模式实现的网络通信程序。

  • 文件事件是对套接字操作的抽象:每次套接字变为可应答(acceptable)、可写(writable)或者可读(readable)时,相应的文件事件就会产生。

  • 文件事件分为 AE_READABLE 事件(读事件)和 AE_WRITABLE 事件(写事件)两类。

  • 时间事件分为定时事件和周期性事件:定时事件只在指定的时间到达一次,而周期性事件则每隔一段时间到达一次。

  • 服务器在一般情况下只执行 serverCron 函数一个时间事件,并且这个事件是周期性事件。

  • 文件事件和时间事件之间是合作关系,服务器会轮流处理这两种事件,并且处理事件的过程中也不会进行抢占。

  • 时间事件的实际处理时间通常会比设定的到达时间晚一些。