PostgreSQL Page页结构解析 表的页头和行数据指针
本文简单介绍了PG数据页Page中存储的原始内容以及如何阅读它们,包括页头PageHeader和行数据指针ItemId(Line Pointer)。
测试数据准备
1 创建一张表,插入几行数据
drop table if exists t01;
create table t01 (id int,c1 char(8),c2 varchar(16));
insert into t01 values(1,'1','a');
insert into t01 values(2,'2','b');
insert into t01 values(3,'3','c');
insert into t01 values(4,'4','d');
2 获取该表对应的数据文件
testdb=# select pg_relation_filepath('t01');
pg_relation_filepath
----------------------
base/13758/16429
(1 row)
3 Dump数据文件中的数据
[xdb@localhost utf8db\]$ hexdump -C $PGDATA/base/13758/16429
00000000 00 00 00 00 20 44 77 01 00 00 00 00 28 00 60 1f |.... Dw.....(.`.|
00000010 00 20 04 20 00 00 00 00 d8 9f 4e 00 b0 9f 4e 00 |. . ......N...N.|
00000020 88 9f 4e 00 60 9f 4e 00 00 00 00 00 00 00 00 00 |..N.`.N.........|
00000030 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 00 |................|
*
00001f60 e6 02 00 00 00 00 00 00 00 00 00 00 00 00 00 00 |................|
00001f70 04 00 03 00 02 08 18 00 04 00 00 00 13 34 20 20 |.............4 |
00001f80 20 20 20 20 20 05 64 00 e5 02 00 00 00 00 00 00 | .d.........|
00001f90 00 00 00 00 00 00 00 00 03 00 03 00 02 08 18 00 |................|
00001fa0 03 00 00 00 13 33 20 20 20 20 20 20 20 05 63 00 |.....3 .c.|
00001fb0 e4 02 00 00 00 00 00 00 00 00 00 00 00 00 00 00 |................|
00001fc0 02 00 03 00 02 08 18 00 02 00 00 00 13 32 20 20 |.............2 |
00001fd0 20 20 20 20 20 05 62 00 e3 02 00 00 00 00 00 00 | .b.........|
00001fe0 00 00 00 00 00 00 00 00 01 00 03 00 02 08 18 00 |................|
00001ff0 01 00 00 00 13 31 20 20 20 20 20 20 20 05 61 00 |.....1 .a.|
00002000
PageHeader
上一节提到过PageHeaderData,其数据结构如下:
typedef struct PageHeaderData
{
/* XXX LSN is member of *any* block, not only page-organized ones */
PageXLogRecPtr pd_lsn; /* LSN: next byte after last byte of xlog
* record for last change to this page */
uint16 pd_checksum; /* checksum */
uint16 pd_flags; /* flag bits, see below */
LocationIndex pd_lower; /* offset to start of free space */
LocationIndex pd_upper; /* offset to end of free space */
LocationIndex pd_special; /* offset to start of special space */
uint16 pd_pagesize_version;
TransactionId pd_prune_xid; /* oldest prunable XID, or zero if none */
ItemIdData pd_linp\[1\]; /* beginning of line pointer array */
} PageHeaderData;
下面根据数据文件中的数据使用hexdump查看并逐个进行解析。
1 pd_lsn(8bytes)
[xdb@localhost utf8db\]$ hexdump -C $PGDATA/base/13758/16429 -s 0 -n 8
00000000 00 00 00 00 20 44 77 01 |.... Dw.|
00000008
数据文件的8个Bytes存储的是LSN,其中最开始的4个Bytes是TimelineID,在这里是\x0000 0000(即数字0),后面的4个Bytes是\x01774420 ,组合起来LSN为0/01774420
Warning
A、0000000&0000008是hexdump工具的输出,不是数据内容
B、X86使用小端模式,阅读字节码时注意高低位变换
2 pd_checksum(2bytes)
[xdb@localhost utf8db\]$ hexdump -C $PGDATA/base/13758/16429 -s 8 -n 2
00000008 00 00 |..|
0000000a
checksum为\x0000
3 pd_flags(2bytes)
\[xdb@localhost utf8db\]$ hexdump -C $PGDATA/base/13758/16429 -s 10 -n 2
0000000a 00 00 |..|
0000000c
flags为\\x0000
pd_flags 是标志位,初始化未定义的位,默认为零,并可能在将来使用。
- 此页面有空闲空间,且 行指针 位置小于pd_lower 则考虑重用.
- 此页面没有空闲空间时,UPDATE无法容纳新版本数据,则设置此位, 标志此页面出现行迁移.
4 pg_lower
\[xdb@localhost utf8db\]$ hexdump -C $PGDATA/base/13758/16429 -s 12 -n 2
0000000c 28 00 |(.|
0000000e
lower为\\x0028,十进制值为40
5 pd_upper(2bytes)
\[xdb@localhost utf8db\]$ hexdump -C $PGDATA/base/13758/16429 -s 14 -n 2
0000000e 60 1f |\`.|
00000010
\[xdb@localhost utf8db\]$ echo $((0x1f60))
8032
upper为\\x1f60,十进制为8032
6 pd_special(2bytes)
\[xdb@localhost utf8db\]$ hexdump -C $PGDATA/base/13758/16429 -s 16 -n 2
00000010 00 20 |. |
00000012
Special Space为\\x2000,十进制值为8192
- pd_special – 此变量用于索引。在表格中的页面中,它指向页面的末尾。(在索引内的页面中,它指向特殊空间的开头,该空间是仅由索引保存的数据区域,并根据索引类型(如B树,GiST,GiN等)包含特定数据。
7 pd_pagesize_version(2bytes)
\[xdb@localhost utf8db\]$ hexdump -C $PGDATA/base/13758/16429 -s 18 -n 2
00000012 04 20 |. |
00000014
pagesize_version为\\x2004,十进制为8196(即版本4)
8 pd_prune_xid(4bytes)
\[xdb@localhost utf8db\]$ hexdump -C $PGDATA/base/13758/16429 -s 20 -n 4
00000014 00 00 00 00 |....|
00000018
prune_xid为\\x0000,即0
ItemIds
PageHeaderData之后是ItemId数组,每个元素占用的空间为4Bytes,数据结构:
typedef struct ItemIdData
{
unsigned lp_off:15,/* offset to tuple (from start of page) */
lp_flags:2,/* state of item pointer, see below */
lp_len:15;/* byte length of tuple */
} ItemIdData;
typedef ItemIdData* ItemId;
1 lp_off
\[xdb@localhost utf8db\]$ hexdump -C $PGDATA/base/13758/16429 -s 24 -n 2
00000018 d8 9f |..|
0000001a
取低15位
\[xdb@localhost utf8db\]$ echo $((0x9fd8 & ~$((1<<15))))
8152
表示第1个Item(tuple)从8152开始
2 lp_len
\[xdb@localhost utf8db\]$ hexdump -C $PGDATA/base/13758/16429 -s 26 -n 2
0000001a 4e 00 |N.|
0000001c
取高15位
\[xdb@localhost utf8db\]$ echo $((0x004e >> 1))
39
表示第1个Item(tuple)的大小为39
3 lp_flags
0x9fd8=1001111111011000
004e= 1001110000000000
取第17-16位,01,即1
当lp_flags 为1时,指定 一个未使用的行指针,是否重用.
当lp_flags 为其他值时,则不会立即重用.
小结
以上简单介绍了如何阅读Raw Datafile,包括页头和数据行指针信息,有兴趣的同学可在此基础上实现自己的“pageinspect"。下一节将介绍数据行信息。