Redis 设计与实现(6-压缩列表)
压缩列表(ziplist)是列表键和哈希键的底层实现之一。当一个列表键只包含少量列表项/当一个哈希键只包含少量键值对,并且每个列表项/每个键值对的键和值 要么就是小整数值,要么就是长度比较短的字符串,那么Redis就会使用压缩列表来做列表键的底层实现。
压缩列表的构成
压缩列表是Redis为了节约内存而开发的,是由一系列特殊编码的连续内存块组成的顺序型(sequential)数据结构。一个压缩列表可以包含任意多个节点(entry),每个节点可以保存一个字节数组或者一个整数值。
压缩列表组成部分说明:
类型 | 长度 | 用途 | |
---|---|---|---|
zlbytes | uint_32 | 4 | 记录整个压缩列表占用的内存字节数,在对压缩列表进行内存重分配或计算zlen的位置时使用。 |
zltail | uint_32 | 4 | 记录压缩列表表尾节点距离压缩列表的起始地址有多少字节:通过这个偏移量,程序无需遍历整个压缩列表就可以确定表尾节点的地址。 |
zllen | uint_16 | 2 | 记录了压缩列表包含的节点数量:当这个属性的值小于uint16_max(65535)时,这个属性的值就是压缩列表包含节点的数量uint16_max;当这个值等于,节点的真实数量需要遍历整个压缩列表才能计算出 |
entry1-N | 列表节点 | 不定 | 压缩列表包含的各个节点,节点的长度由节点保存的内容决定。 |
zlend | uint_8 | 1 | 特殊值0xFF(255),用于标记压缩列表的末端。 |
节点的构成
每个压缩列表节点可以保存一个字节数组或者一个整数值,其中,字节数组可以是以下三种长度的其中一种:
长度小于等于63(2**6–1)字节的字节数组;
长度小于等于16383(2**14–1)字节的字节数组;
长度小于等于4294967295(2**32–1)字节的字节数组;
而整数值则可以是以下六种长度的其中一种:
4位长,介于0至12之间的无符号整数;
1/3 字节长的有符号整数;
int16_t/int32_t/int64_t 类型整数
每个压缩列表节点都由previous_entry_length、encoding、content三个部分组成
previous_entry_length
previous_entry_length属性以字节为单位,记录了压缩列表中前一个节点的长度。属性的长度可以是1字节或者5字节。
- 如果前一节点的长度小于254字节,那么previous_entry_length属性的长度为1字节:前一节点的长度就保存在这一个字节里面。
- 如果前一节点的长度大于等于254字节,那么previous_entry_length属性的长度为5字节:其中属性的第一字节会被设置为0xFE(十进制值254),而之后的四个字节则用于保存前一节点的长度。
eg:
previous_entry_length = 0xFE00002766,值的最高位字节0xFE表示这是一个五字节长的previous_entry_length属性,而之后的四字节0x00002766(十进制值10086)才是前一节点的实际长度。
由此特性,程序可以通过指针运算,根据当前节点的起始地址来计算出前一个节点的起始地址。
压缩列表的从表尾向表头遍历操作也是使用这一原理实现的。
encoding
encoding属性记录了节点的content属性所保存数据的类型以及长度。
- 一字节、两字节或者五字节长,值的最高位为00、01或者10的是字节数组编码:这种编码表示节点的content属性保存着字节数组,数组的长度由编码除去最高两位之后的其他位记录;
- 一字节长,值的最高位以11开头的是整数编码:这种编码表示节点的content属性保存着整数值,整数值的类型和长度由编码除去最高两位之后的其他位记录;
字节数组编码:
编码 | 编码长度(byte) | content属性保存的值 |
---|---|---|
00bbbbbb | 1 | 长度小于等于63字节的字节数组 |
01bbbbbb xxxxxxxx | 2 | 长度小于等于16383字节的字节数组 |
10___*_* aaaaaaaa bbbbbbbb cccccccc dddddddd | 5 | 长度小于等于4294967295字节的字节数组 |
整数编码:
编码 | 编码长度(byte) | content属性保存的值 |
---|---|---|
11000000 | 1 | int16_t类型的整数 |
11010000 | 1 | int32_t类型的整数 |
11100000 | 1 | int64_t类型的整数 |
11110000 | 1 | 24位有符号数 |
11111110 | 1 | 8位有符号数 |
xxxxxxxx | 1 | 使用该编码的节点没有content属性,因为xxxx四位本身就保存了一个介于0到12之间的值 |
content
content属性负责保存节点的值,节点值可以是一个字节数组或者整数,值的类型和长度由节点的encoding属性决定。
连锁更新
Redis将在特殊情况下产生的连续多次空间扩展/收缩操作称之为“连锁更新”。除了添加新节点可能会引发连锁更新之外,删除节点也可能会引发连锁更新。
eg:
在一个压缩列表中,有多个连续的、长度介于250字节到253字节之间的节点e1至eN。
e1至eN的所有节点的长度都小于254字节,所以记录这些节点的previous_entry_length属性都是1字节长的。
这时,如果我们将一个长度大于等于254字节的新节点new设置为压缩列表的表头节点,那么new将成为e1的前置节点。
因为e1的previous_entry_length属性仅长1字节,它没办法保存新节点new的长度,所以程序将对压缩列表执行空间重分配操作,并将e1节点的previous_entry_length属性从原来的1字节长扩展为5字节长。
现在,麻烦的事情来了,e1原本的长度介于250字节至253字节之间,在为previous_entry_length属性新增四个字节的空间之后,e1的长度就变成了介于254字节至257字节之间,而这种长度使用1字节长的previous_entry_length属性是没办法保存的。
因此,为了让e2的previous_entry_length属性可以记录下e1的长度,程序需要再次对压缩列表执行空间重分配操作,并将e2节点的previous_entry_length属性从原来的1字节长扩展为5字节长。
配图如下:
要注意的是,尽管连锁更新的复杂度较高,但它真正造成性能问题的几率是很低的:
- 首先,压缩列表里要恰好有多个连续的、长度介于250字节至253字节之间的节点,连锁更新才有可能被引发;
- 其次,即使出现连锁更新,但只要被更新的节点数量不多,就不会对性能造成任何影响;
因为以上原因,ziplistPush等命令的平均复杂度仅为O(N)
压缩列表API
因为ziplistPush、ziplistInsert、ziplistDelete和ziplistDeleteRange四个函数都有可能会引发连锁更新,所以它们的最坏复杂度都是O(N**2)。
压缩列表总结
压缩列表是一种为节约内存而开发的顺序型数据结构。
压缩列表被用作列表键和哈希键的底层实现之一。
压缩列表可以包含多个节点,每个节点可以保存一个字节数组或者整数值。
添加新节点到压缩列表,或者从压缩列表中删除节点,可能会引发连锁更新操作,但这种操作出现的几率并不高。