mysql insert into ... select的锁问题

news/2024/5/20 13:15:50 标签: java, mysql, innodb, 死锁

引语:

最近中遇到一个数据库死锁的问题,这里记录一下解决的过程。

问题产生:

系统中mysql里面有几个event,每几分钟就会执行一次,用来统计数据之类的功能,然后这个event里面会往一张表里面写入数据。
大致内容:
replace into a from select 需要的字段 from b;
大体结构是这样,select 需要的字段from b这里是简写,实际上非常复杂,有很多表的join的操作。然后这个event是每一分钟就执行一次,在数据量很大的情况下
一分钟可能还执行不完。然后我们会有其他的各种插入,更新的操作去对b表进行操作。此时就会发现,后端日志里面经常会有deadlock和wait lock timeout的报错,
最后测试发现把event关掉就没有这个问题,基本确认是这个event的问题。

问题分析:

其实最耗时的是发现是event的问题,查询资料解决问题并没有花太多时间。
1.首先根据后端日志里面的报错信息定位到是哪张表产生了死锁,是哪张表等待锁超时
2.然后根据这几个表名和打印的sql找到了大概可能是哪里的问题,大致确认了是event中的sql导致的
3.再验证我们的想法,把event关掉后发现日志就没有lock的问题了
4.检查event中的语句发现大概就是replace into a from select 需要的字段 from b;

这里主要是不太清楚mysql哪些情况会上锁,理论上select的操作只会上一个共享锁,对于b表的插入和更新等操作是上排他锁,
这两个是可以兼容的,一个读一个写,并不冲突。但是根据等到所超时的现象上来看,就像是select 需要的字段 from b把b表也给锁住了,
所以插入和更新都在等待锁。

最后在Stack Overflow中找到了有一点眉目的信息,链接地址。
这里说要设置成read-committed的级别就可以了。然后也引出了一个mysql配置参数:innodb_locks_unsafe_for_binlog。

于是我们顺着这个信息从官网上去查看,发现有这么一段话:

INSERT INTO T SELECT ... FROM S WHERE ... sets an exclusive index record lock (without a gap lock) on each row inserted into T. If the transaction isolation level is READ COMMITTED, or innodb_locks_unsafe_for_binlog is enabled and the transaction isolation level is not SERIALIZABLE, InnoDB does the search on S as a consistent read (no locks). Otherwise, InnoDB sets shared next-key locks on rows from S. InnoDB has to set locks in the latter case: During roll-forward recovery using a statement-based binary log, every SQL statement must be executed in exactly the same way it was done originally.

意思是说对于INSERT INTO T SELECT … FROM S WHERE …这种情况首先T表上会家伙是哪个记录锁(行级锁),并且是不带间隙锁的。
对于表S,有两种情况下不会加锁:
1.如果事务隔离级别为READ COMMITTED
2.或者启用了innodb_locks_unsafe_for_binlog且事务隔离级别不是SERIALIZABLE的

否则,InnoDB在S的行上设置共享的next-key。如果不清楚next-key的话可以看下官网的这个介绍,链接地址。

因此我们要解决所等待超时的方式已经比较明朗了,就是让S表不要被锁住,然而不要被锁住可以使用官网说的两种方式。
这两种都可以,但是根据innodb_locks_unsafe_for_binlog这个参数的介绍来看最好是使用方式1,将事务的隔离级别设置为read-committed。

原因有下面几点:
1.是innodb_locks_unsafe_for_binlog这个参数是静态的,必须要在my.cnf中加入一行innodb_locks_unsafe_for_binlog = 1,然后重启数据库才能生效。
mysql中输入命令:

show variables like "%innodb_locks_unsafe_for_binlog%"

如果发现是ON就是开启成功了。
2.事务的隔离级别粒度比较细,可以针对某个session来设置,不同的session可以用不同的隔离级别,而且这个参数是动态的直接在mysql命令行修改就行。
3.mysql5.7的参数介绍中说,innodb_locks_unsafe_for_binlog这个参数将在后面的mysql版本中废弃掉。这个说的是实话,我去查看了mysql8.0的参数详解发现已经没有这个参数了。

所以推荐使用事务隔离级别来控制。

参考资料:

1.Stack Overflow上对于insert select锁的解答
2.innodb锁设置的情况
3.innodb所种类介绍
4.innodb_locks_unsafe_for_binlog参数的介绍


http://www.niftyadmin.cn/n/866184.html

相关文章

SLAM专题 (4)-- SLAM方法与技术架构

目录 VSLAM技术架构 1 传感器数据 2 前端 3 后端 4 回环检测 5 建立地图 总结 前几篇文章对SLAM有了个简单的认识,我们知道SLAM可以一边建图一边定位,还可以用建立好的地图进行导航。 有同学问现在手机上的百度/高德/腾讯等地图类App不就可以做到…

Arduino学习笔记(13)--外部中断

Arduino语法-设置中断函数 函数列表 attachInterrupt()detachInterrupt()interrupts()noInterrupts()attachInterrupt()函数说明 void attachInterrupt (uint8_t interruptNum, void(*)(void)userFunc, int mode)设置中断 指定中断函数. 外部中断有0和1两种, 一般对应2号和…

大型网站技术架构的演变历程

最新看了《大型网站技术架构》的一些内容,记录一下网站演变的进程和一些感悟。 演进历程: 1.初始阶段的网站架构 这种网站的初创时期,一台服务器就充当了所有的角色,应用程序,数据库,文件等内容都部署在…

Arduino学习笔记(14)-- Arduino使用增量编码器测速

原理参考:https://www.arduino.cn/thread-42559-1-1.html https://blog.csdn.net/qq_42795251/article/details/90057308 摘要: 利用Arduino、增量式光电编码器测量速度、方向、位移。 材料: Arduino mega 2560 分辨率256 ABZ相增量式编码…

maven导入snapshot依赖找不到对应类

导语: 最近在做项目的时候,引入公司编写的二方库的包,maven仓库也deploy上去了。然后编译代码的时候发现一直找不到一个类,就编译不通过。 一开始以为是本地idea或者maven的缓存导致没有拉取到最新的包。后来经过一系列的无用操作…

ROS学习笔记(八)-- OpenCV的使用

摘要:在机器人系统中,视觉是非常重要的一部分(人的眼睛获取信息占全部信息的78%,机器人可以类比下),如何在ROS上用上OpenCV开源视觉库呢? 好消息是ROS安装时选择了全部安装full version,这其中就把OpenCV库…

创业公司自动化上线的架构设计

导语: 晚上听了58沈剑老师的自动化上线的课程的一些分享,记录下笔记和一些思考,这要是讲了从创业公司的手动发布到自动化发布的架构和设计。 1.起源 问题的提出:如何把新系统发布到线上? 不同公司的阶段有着不同的…

OpenCV教程(25) -- 图像金字塔Image Pyramids

目录 Goal Theory Goal In this chapter, We will learn about Image PyramidsWe will use Image pyramids to create a new fruit, "Orapple"We will see these functions: cv2.pyrUp(), cv2.pyrDown() Theory Normally, we used to work with an image of con…