PostgreSQL page页结构解析 解析方法
1 背景知识
本文简单介绍了PG数据表的存储基础知识以及可用于解析数据页Page内容的pageinspcet插件。
2 PG数据表存储基础
一般来说,数据表数据物理存储在非易失性存储设备上面,PG也不例外。如下图所示,数据表中的数据存储在N个数据文件中,每个数据文件有N个Page(大小默认为8K,可在编译安装时指定)组成。Page为PG的最小存取单元。
2.1 数据页(Page)
数据页Page由页头、数据指针数组(ItemIdData)、可使用的空闲空间(Free Space)、实际数据(Items)和特殊空间(Special Space)组成。
A、页头存储LSN号、校验位等元数据信息,占用24Bytes
B、数据指针数组存储指向实际数据的指针,数组中的元素ItemId可理解为相应数据行在Page中的实际开始偏移,数据行指针ItemID由三部分组成,前15位为Page内偏移,中间2位为标志,后面15位为长度,详细解析可参见附录
C、空闲空间为未使用可分配的空间,ItemID从空闲空间的头部开始分配,Item(数据行)从空闲空间的尾部开始
D、实际数据为数据的行数据(每种数据类型的存储格式后续再解析)
E、特殊空间用于存储索引访问使用的数据,不同的访问方法数据不同
3 pageinspect插件
如何简单快速方便的查看Page中的内容?不同于Oracle各种dump,在PG中可以方便的使用pageinspect插件提供的各种函数查看Page中的内容。
3.1 pageinspect 插件安装
编译安装得益于PG良好的扩展性,所以安装很简单:
#cd $PGSRC/contrib/pageinspect
#make
#make install
3.2 加载插件
#psql
postgres=# create extension pageinspect; -- 首次使用需创建Extension
4 查看页结构
drop table if exists t01;
create table t01 (id char(4),c1 varchar(20));
insert into t01 values('1','#');
4.1 查看page header&item
SELECT * FROM page_header(get_raw_page('t01', 0));
select * from heap_page_items(get_raw_page('t01',0));
lsn | checksum | flags | lower | upper | special | pagesize | version | prune_xid
-----------+----------+-------+-------+-------+---------+----------+---------+-----------
0/176F2C8 | 0 | 0 | 28 | 8160 | 8192 | 8192 | 4 | 0
postgres=# select * from heap_page_items(get_raw_page('t01',0));
lp | lp_off | lp_flags | lp_len | t_xmin | t_xmax | t_field3 | t_ctid | t_infomask2 | t_infomask | t_hoff | t_bits | t_oid | t_data
----+--------+----------+--------+--------+--------+----------+--------+-------------+------------+--------+--------+-------+------------------
1 | 8160 | 1 | 31 | 739 | 0 | 0 | (0,1) | 2 | 2050 | 24 | | | \x0b312020200523
(1 row)
Page Header&Item
4.2 查看Page中的raw内容
\x
select * from get_raw_page('t01', 0);
4.3 Page头部内容
4.4 Page尾部内容
pageinspect的实现,可以查看pageinspect的源代码,更深入的可以通过直接分析Page中的数据内容进行理解,这部分内容在下一节再行介绍。
5 附录:相关数据结构代码
头文件 bufpage.h
可以看到 PageHeaderData
数据结构。
src/include/storage/bufpage.h
typedef struct PageHeaderData
{
/* XXX LSN is member of *any* block, not only page-organized ones */
PageXLogRecPtr pd_lsn; /* LSN: next byte after last byte of xlog
* record for last change to this page */
uint16 pd_checksum; /* checksum */
uint16 pd_flags; /* flag bits, see below */
LocationIndex pd_lower; /* offset to start of free space */
LocationIndex pd_upper; /* offset to end of free space */
LocationIndex pd_special; /* offset to start of special space */
uint16 pd_pagesize_version;
TransactionId pd_prune_xid; /* oldest prunable XID, or zero if none */
ItemIdData pd_linp[FLEXIBLE_ARRAY_MEMBER\]; /* line pointer array */
} PageHeaderData;
typedef PageHeaderData *PageHeader;
___
头文件:src/include/storage/itemid.h
/*
* An item pointer (also called line pointer) on a buffer page
*
* In some cases an item pointer is "in use" but does not have any associated
* storage on the page. By convention, lp_len == 0 in every item pointer
* that does not have storage, independently of its lp_flags state.
*/
typedefstruct ItemIdData
{
unsignedlp_off:15,/* offset to tuple (from start of page) */
lp_flags:2,/* state of item pointer, see below */
lp_len:15;/* byte length of tuple */
}ItemIdData;
typedefItemIdData*ItemId;
/*
* lp_flags has these possible states. An UNUSED line pointer is available
* for immediate re-use, the other states are not.
*/
#define LP_UNUSED 0 /* unused (should always have lp_len=0) */
#define LP_NORMAL 1 /* used (should always have lp_len>0) */
#define LP_REDIRECT 2 /* HOT redirect (should have lp_len=0) */
#define LP_DEAD 3 /* dead, may or may not have storage */
/*
* Item offsets and lengths are represented by these types when
* they're not actually stored in an ItemIdData.
*/
typedefuint16ItemOffset;
typedefuint16ItemLength;
6 常用命令
6.1 表操作
6.1.1 查看表块Header空间
SELECT * FROM page_header(get_raw_page('t01', 0));
6.1.2 查看表块Tuple 空间
select * from heap_page_items(get_raw_page('t01',0));
6.2 索引操作
6.2.1 索引的metap空间
SELECT * FROM bt_metap('pk_t_index');
6.2.2 索引的Header空间
select * from page_header(get_raw_page('pk_t_index',0));
6.2.3 索引的Tuple 空间
select * from bt_page_items('pk_t_index',1);
6.2.4 索引的space 空间
SELECT * FROM bt_page_stats('tab02_pkey',3);
5 参考链接
https://www. postgresql.org/docs/11/static/storage-page-layout.html