mysql迁移至postgresql_Oracle迁移PostgreSQL: 浅谈RowID、Ctid和MVCC

2023-10-22 18:40

本文主要是介绍mysql迁移至postgresql_Oracle迁移PostgreSQL: 浅谈RowID、Ctid和MVCC,希望对大家解决编程问题提供一定的参考价值,需要的开发者们随着小编来一起学习吧!

f6fe132d7700b7b4780fe1d983b04cb7.png

原文: https://postgres.fun/20200627082800.html

背景

最近有位社区朋友在做Oracle迁移PostgreSQL项目,应用程序大量使用Oracle的rowid特性,咨询我: 如果迁移到PostgreSQL数据库,是否可以使用PostgreSQL的ctid来代替rowid?

我的回答:不可以。

原因是Oracle的rowid不会随着表上记录的UPDATE变化,而PostgreSQL记录的ctid会随着UPDATE变化,如果业务逻辑依赖ctid进行处理则会带来问题。

举个例子,以下两个业务场景在高并发时,Oracle能够正常处理。

业务1:
sql1:select * from t1 where key=:
sql2:update t1 set col1= where rowid=:;业务2:
sql3:select * from t1 where key=:
sql4:update t1 set col2= where rowid=:

如果切换换到 PostgreSQL,使用ctid代替rowid,如下:

业务1:
sql1:select * from t1 where key=:
sql2:update t1 set col1= where ctid=:;业务2:
sql3:select * from t1 where key=:
sql4:update t1 set col2= where ctid=:

当业务1和业务2高并发时,假如sql1和sql3得到的rowid是同一个,那么执行sql2和sql4必定有一个会失败,因为先执行的sql会更改rowid,后执行的sql必定会更新不到记录,虽然update不报错,但并不符合业务逻辑。

关于rowid和ctid的不同,深层次是Oracle和PostgreSQL的MVCC(Multiversion Concurrency Control)多版本并发控制的不同,这个知识点涉及的内容很多,讲清楚并不容易。

首先看看rowid和ctid。

RowID和ctid

简单看看 Oracle的 rowid 和 PostgreSQL ctid。

RowID

rowid是Oracle的一个重要特性,用于定位数据库表中一条记录的唯一地址,如果不对表进行数据文件物理位置变动的操作,例如move等,表中每条数据的 rowid 是不会变化的。

rowid是一个伪列,并不实际存储在表中,也不占用物理数据文件,它只是标记表中每条数据的物理位置。

rowid基于64进制,共18位字符,格式为以下:

OOOOOOFFFBBBBBBRRR

rowid由四部分组成:

  • OOOOOOr: Data object numbe,记录的对象编号
  • FFFr: Datafile number,记录所在的表空间的数据文件编号
  • BBBBBB: Data block,记录所在的数据块编号
  • RRR: row number,记录的行编号

接着看一个 rowid的示例,如下:

SELECT ROWID, last_name FROM employees WHERE department_id = 20;ROWID              LAST_NAME 
------------------ ---------- 
AAAAaoAATAAABrXAAA BORTINS

得到的结果是18位的字符,可使用Oracle的dbms_rowid包的相关函数对rowid的四部分进行解析,生成可读的Data object numbe、Datafile number、Data block、row number。

Ctid

PostgreSQL的ctid也可以用来物理标记表的一条记录,如果记录被UPDATE后,记录的ctid会变化,因此,ctid作为记录的长期标识是无效的,推荐使用表的主键标识记录。

ctid 的结构较 rowid 简单,如下:

(Data block, Row)

具体为以下: - Data block: 记录所在的数据块编号 - Row: 记录的行编号

看一个ctid的示例,如下:

mydb=> CREATE TABLE t2(id int4,name text);
CREATE TABLEmydb=> INSERT INTO t2 VALUES(1,'a'),(2,'b');
INSERT 0 2mydb=> SELECT ctid,* FROM t2;ctid  | id | name
-------+----+------(0,1) |  1 | a(0,2) |  2 | b
(2 rows)

ctid数据小括号的第一位是数据块编号,第二位是记录的行编号。

MVCC的实现方式

Oracle的rowid和PostgreSQL的ctid的差异根源是Oracle和PostgreSQL的MVCC机制的差异。

Oracle的MVCC机制中引入了undo表空间,当记录被update时会在undo表空间中保存记录的旧版本,而老的记录的物理位置并不会发生变化,记录的rowid是不变的。

PostgreSQL的MVCC机制现阶段并没有引入undo(可能后续大版本会引入),当表的记录被update时,该记录的新版本(tuple_new)将会插入到表的数据块中,同时,此记录的老版本(tuple_old)仍然保持在原数据块中,只是标记为过期,直到VACCUM进程对tuple_old处理后,tuple_old才会被回收。

Ctid实践

我们来看一个示例,当PostgreSQL的表记录被update后的ctid的变化。

创建测试表并插入记录,如下:

mydb=> CREATE TABLE t3 (id int4, info text);
CREATE TABLEmydb=> INSERT INTO t3 (id,info) VALUES(1,'a'),(2,'b');
INSERT 0 2

更新id=1这条记录,如下:

mydb=> SELECT ctid, * FROM t3;ctid  | id | info
-------+----+------(0,1) |  1 | a(0,2) |  2 | b
(2 rows)mydb=> UPDATE t3 SET info='aa' WHERE id=1;
UPDATE 1mydb=> SELECT ctid, * FROM t3;ctid  | id | info
-------+----+------(0,2) |  2 | b(0,3) |  1 | aa
(2 rows)

发现id=1这条记录的ctid由原来的(0,1)变成了现在的(0,3),ctid变化了,说明在表的物理文件上新增了记录(tuple)。

这个示例验证了PostgreSQL的MVCC机制。

建议方案

本文简单介绍了rowid和ctid的结构,以及Oracle和PostgreSQL的MVCC机制的不同,回到本文开头社区朋友提出的问题,由于项目中的应用程序大量使用了rowid特性,建议切换到PostgreSQL过程中对应用进行改造,使用主键标识数据记录。

当然,对于复杂的业务系统必将带来大的应用改造工作量,以及数据库表结构变更的工作量(没有主健的表可能需要增加主健),在项目中需重点考虑权衡。

参考

  • Oracle RowID Datatype
  • Oracle中的rowid
  • PostgreSQL System Columns
  • PostgreSQL、Oracle/MySQL和SQL Server的MVCC实现原理方式

这篇关于mysql迁移至postgresql_Oracle迁移PostgreSQL: 浅谈RowID、Ctid和MVCC的文章就介绍到这儿,希望我们推荐的文章对编程师们有所帮助!


原文地址:https://blog.csdn.net/weixin_39568889/article/details/110256934
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.chinasem.cn/article/262980

相关文章

SQL中JOIN操作的条件使用总结与实践

《SQL中JOIN操作的条件使用总结与实践》在SQL查询中,JOIN操作是多表关联的核心工具,本文将从原理,场景和最佳实践三个方面总结JOIN条件的使用规则,希望可以帮助开发者精准控制查询逻辑... 目录一、ON与WHERE的本质区别二、场景化条件使用规则三、最佳实践建议1.优先使用ON条件2.WHERE用

MySQL存储过程之循环遍历查询的结果集详解

《MySQL存储过程之循环遍历查询的结果集详解》:本文主要介绍MySQL存储过程之循环遍历查询的结果集,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录前言1. 表结构2. 存储过程3. 关于存储过程的SQL补充总结前言近来碰到这样一个问题:在生产上导入的数据发现

MySQL 衍生表(Derived Tables)的使用

《MySQL衍生表(DerivedTables)的使用》本文主要介绍了MySQL衍生表(DerivedTables)的使用,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学... 目录一、衍生表简介1.1 衍生表基本用法1.2 自定义列名1.3 衍生表的局限在SQL的查询语句select

MySQL 横向衍生表(Lateral Derived Tables)的实现

《MySQL横向衍生表(LateralDerivedTables)的实现》横向衍生表适用于在需要通过子查询获取中间结果集的场景,相对于普通衍生表,横向衍生表可以引用在其之前出现过的表名,本文就来... 目录一、横向衍生表用法示例1.1 用法示例1.2 使用建议前面我们介绍过mysql中的衍生表(From子句

六个案例搞懂mysql间隙锁

《六个案例搞懂mysql间隙锁》MySQL中的间隙是指索引中两个索引键之间的空间,间隙锁用于防止范围查询期间的幻读,本文主要介绍了六个案例搞懂mysql间隙锁,具有一定的参考价值,感兴趣的可以了解一下... 目录概念解释间隙锁详解间隙锁触发条件间隙锁加锁规则案例演示案例一:唯一索引等值锁定存在的数据案例二:

MySQL JSON 查询中的对象与数组技巧及查询示例

《MySQLJSON查询中的对象与数组技巧及查询示例》MySQL中JSON对象和JSON数组查询的详细介绍及带有WHERE条件的查询示例,本文给大家介绍的非常详细,mysqljson查询示例相关知... 目录jsON 对象查询1. JSON_CONTAINS2. JSON_EXTRACT3. JSON_TA

MySQL 设置AUTO_INCREMENT 无效的问题解决

《MySQL设置AUTO_INCREMENT无效的问题解决》本文主要介绍了MySQL设置AUTO_INCREMENT无效的问题解决,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参... 目录快速设置mysql的auto_increment参数一、修改 AUTO_INCREMENT 的值。

MYSQL查询结果实现发送给客户端

《MYSQL查询结果实现发送给客户端》:本文主要介绍MYSQL查询结果实现发送给客户端方式,具有很好的参考价值,希望对大家有所帮助,如有错误或未考虑完全的地方,望不吝赐教... 目录mysql取数据和发数据的流程(边读边发)Sending to clientSending DataLRU(Least Rec

MySQL分区表的具体使用

《MySQL分区表的具体使用》MySQL分区表通过规则将数据分至不同物理存储,提升管理与查询效率,本文主要介绍了MySQL分区表的具体使用,具有一定的参考价值,感兴趣的可以了解一下... 目录一、分区的类型1. Range partition(范围分区)2. List partition(列表分区)3. H

MySQL复杂SQL之多表联查/子查询详细介绍(最新整理)

《MySQL复杂SQL之多表联查/子查询详细介绍(最新整理)》掌握多表联查(INNERJOIN,LEFTJOIN,RIGHTJOIN,FULLJOIN)和子查询(标量、列、行、表子查询、相关/非相关、... 目录第一部分:多表联查 (JOIN Operations)1. 连接的类型 (JOIN Types)