压缩列表(ziplist)是列表键和哈希键的底层实现之一。当一个列表键只包含少量列表项/当一个哈希键只包含少量键值对,并且每个列表项/每个键值对的键和值 要么就是小整数值,要么就是长度比较短的字符串,那么Redis就会使用压缩列表来做列表键的底层实现。

压缩列表的构成

压缩列表是Redis为了节约内存而开发的,是由一系列特殊编码的连续内存块组成的顺序型(sequential)数据结构。一个压缩列表可以包含任意多个节点(entry),每个节点可以保存一个字节数组或者一个整数值。

压缩列表组成部分说明:

类型 长度 用途
zlbytes uint_32 4 记录整个压缩列表占用的内存字节数,在对压缩列表进行内存重分配或计算zlen的位置时使用。
zltail uint_32 4 记录压缩列表表尾节点距离压缩列表的起始地址有多少字节:通过这个偏移量,程序无需遍历整个压缩列表就可以确定表尾节点的地址。
zllen uint_16 2 记录了压缩列表包含的节点数量:当这个属性的值小于uint16_max(65535)时,这个属性的值就是压缩列表包含节点的数量uint16_max;当这个值等于,节点的真实数量需要遍历整个压缩列表才能计算出
entry1-N 列表节点 不定 压缩列表包含的各个节点,节点的长度由节点保存的内容决定。
zlend uint_8 1 特殊值0xFF(255),用于标记压缩列表的末端。

节点的构成

每个压缩列表节点可以保存一个字节数组或者一个整数值,其中,字节数组可以是以下三种长度的其中一种:

  • 长度小于等于63(2**6–1)字节的字节数组;

  • 长度小于等于16383(2**14–1)字节的字节数组;

  • 长度小于等于4294967295(2**32–1)字节的字节数组;

而整数值则可以是以下六种长度的其中一种:

  • 4位长,介于0至12之间的无符号整数;

  • 1/3 字节长的有符号整数;

  • int16_t/int32_t/int64_t 类型整数

每个压缩列表节点都由previous_entry_length、encoding、content三个部分组成

previous_entry_length

previous_entry_length属性以字节为单位,记录了压缩列表中前一个节点的长度。属性的长度可以是1字节或者5字节。

  • 如果前一节点的长度小于254字节,那么previous_entry_length属性的长度为1字节:前一节点的长度就保存在这一个字节里面。
  • 如果前一节点的长度大于等于254字节,那么previous_entry_length属性的长度为5字节:其中属性的第一字节会被设置为0xFE(十进制值254),而之后的四个字节则用于保存前一节点的长度。

eg:

previous_entry_length = 0xFE00002766,值的最高位字节0xFE表示这是一个五字节长的previous_entry_length属性,而之后的四字节0x00002766(十进制值10086)才是前一节点的实际长度。

由此特性,程序可以通过指针运算,根据当前节点的起始地址来计算出前一个节点的起始地址。

压缩列表的从表尾向表头遍历操作也是使用这一原理实现的。

encoding

encoding属性记录了节点的content属性所保存数据的类型以及长度。

  • 一字节、两字节或者五字节长,值的最高位为00、01或者10的是字节数组编码:这种编码表示节点的content属性保存着字节数组,数组的长度由编码除去最高两位之后的其他位记录;
  • 一字节长,值的最高位以11开头的是整数编码:这种编码表示节点的content属性保存着整数值,整数值的类型和长度由编码除去最高两位之后的其他位记录;

字节数组编码:

编码 编码长度(byte) content属性保存的值
00bbbbbb 1 长度小于等于63字节的字节数组
01bbbbbb xxxxxxxx 2 长度小于等于16383字节的字节数组
10___*_* aaaaaaaa bbbbbbbb cccccccc dddddddd 5 长度小于等于4294967295字节的字节数组

整数编码:

编码 编码长度(byte) content属性保存的值
11000000 1 int16_t类型的整数
11010000 1 int32_t类型的整数
11100000 1 int64_t类型的整数
11110000 1 24位有符号数
11111110 1 8位有符号数
xxxxxxxx 1 使用该编码的节点没有content属性,因为xxxx四位本身就保存了一个介于0到12之间的值

content

content属性负责保存节点的值,节点值可以是一个字节数组或者整数,值的类型和长度由节点的encoding属性决定。

连锁更新

Redis将在特殊情况下产生的连续多次空间扩展/收缩操作称之为“连锁更新”。除了添加新节点可能会引发连锁更新之外,删除节点也可能会引发连锁更新。

eg:

在一个压缩列表中,有多个连续的、长度介于250字节到253字节之间的节点e1至eN。

e1至eN的所有节点的长度都小于254字节,所以记录这些节点的previous_entry_length属性都是1字节长的。

这时,如果我们将一个长度大于等于254字节的新节点new设置为压缩列表的表头节点,那么new将成为e1的前置节点。

因为e1的previous_entry_length属性仅长1字节,它没办法保存新节点new的长度,所以程序将对压缩列表执行空间重分配操作,并将e1节点的previous_entry_length属性从原来的1字节长扩展为5字节长。

现在,麻烦的事情来了,e1原本的长度介于250字节至253字节之间,在为previous_entry_length属性新增四个字节的空间之后,e1的长度就变成了介于254字节至257字节之间,而这种长度使用1字节长的previous_entry_length属性是没办法保存的。

因此,为了让e2的previous_entry_length属性可以记录下e1的长度,程序需要再次对压缩列表执行空间重分配操作,并将e2节点的previous_entry_length属性从原来的1字节长扩展为5字节长。

配图如下:

img

要注意的是,尽管连锁更新的复杂度较高,但它真正造成性能问题的几率是很低的:

  • 首先,压缩列表里要恰好有多个连续的、长度介于250字节至253字节之间的节点,连锁更新才有可能被引发;
  • 其次,即使出现连锁更新,但只要被更新的节点数量不多,就不会对性能造成任何影响;

因为以上原因,ziplistPush等命令的平均复杂度仅为O(N)

压缩列表API

因为ziplistPush、ziplistInsert、ziplistDelete和ziplistDeleteRange四个函数都有可能会引发连锁更新,所以它们的最坏复杂度都是O(N**2)。

压缩列表总结

压缩列表是一种为节约内存而开发的顺序型数据结构。

压缩列表被用作列表键和哈希键的底层实现之一。

压缩列表可以包含多个节点,每个节点可以保存一个字节数组或者整数值。

添加新节点到压缩列表,或者从压缩列表中删除节点,可能会引发连锁更新操作,但这种操作出现的几率并不高。