mysql DUPLICATE KEY UPDATE 問題


DUPLICATE KEY UPDATE batch執行時出死鎖錯誤

 

背景知識

一、 mysql  insert 與 duplicate key:

典型的插入語句:

多條:INSERT INTO tablename (columnA, columnB, columnC)

VALUES ('a', 1, 2), ('b', 7, 5)

單條:INSERT INTO tablename SET columnA='a', columnB=1, columnC=2

復制:INSERT [options1] [INTO] tablename [ (columnlist) ]
SELECT …

若表已設置主鍵如columnA,重復的插入無效

ERROR 1062 (23000): Duplicate entry 'value' for key 'PRIMARY'

如果數據庫中已有某條數據,以下的兩條語句可等同:

INSERT INTO tablename (id, data) VALUES (1, 10)
ON DUPLICATE KEY UPDATE data=data+10;
UPDATE tablename SET data=data+10 WHERE id=1;

duplicate key語句一般應用在 格式化多條更新語句:

INSERT INTO tablename (id, data) VALUES (1, 10), (2, 15)
ON DUPLICATE KEY UPDATE data=data+VALUE(data)

 

二、innodb表提高插入效率

查詢表使用的引擎:  show create table tablename;

innodb 的存儲引擎提供行級鎖,支持共享鎖和排他鎖兩種鎖定模式,以及四種不同的隔離級別。

對於Innodb 類型的表,我們有以下幾種方式可以提高導入的效率:
a. 因為Innodb 類型的表是按照主鍵的順序保存的,所以將導入的數據按照主鍵的順
序排列,可以有效的提高導入數據的效率。如果Innodb 表沒有主鍵,那么系統會默認
創建一個內部列作為主鍵,所以如果可以給表創建一個主鍵,將可以利用這個優勢提高
導入數據的效率。
b. 在導入數據前執行SET UNIQUE_CHECKS=0,關閉唯一性校驗,在導入結束后執行SET
UNIQUE_CHECKS=1,恢復唯一性校驗,可以提高導入的效率。
c. 如果應用使用自動提交的方式,建議在導入前執行SET AUTOCOMMIT=0,關閉自動
提交,導入結束后再執行SET AUTOCOMMIT=1,打開自動提交,也可以提高導入的效率。

如果如果你同時從同一客戶插入很多行,使用多個值表的INSERT 語句。這比使用分開INSERT 語句快(在一些情況中幾倍)。

你從不同客戶插入很多行,能通過使用INSERT DELAYED 語句得到更高的速度。Delayed 的含義是讓insert 語句馬上執行,其實數據都被放在內存的隊列中,並沒有真正寫入磁盤;這比每條語句分別插入要快的多;LOW_PRIORITY 剛好相反,在所有其他用戶對表的讀寫完后才進行插入;

 

在項目中遇到的問題時,使用了這種insert處理,但是分庫分表,數據表類型為innodb,  tablename各不相同,duplicate key只是用於合並update和insert語句。

 "java.sql.BatchUpdateException: Deadlock found when trying to get lock; try restarting transaction" 錯誤狀況為 第一個插入即出錯,或一個batch中重復一個key,插入多個值。 貌似mysql有這個bug(http://bugs.mysql.com/bug.php?id=52020

使用threadlocal去獲取操作數據庫的對象,static對象,獲取pool的連接並執行批處理方法

 


PRIMARY KEY

UNIQUE KEY 的區別


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM