DUPLICATE KEY UPDATE batch執行時出死鎖錯誤
背景知識
一、 mysql insert 與 duplicate key:
典型的插入語句:
多條:INSERT INTO tablename (columnA, columnB, columnC)
VALUES ('a', 1, 2), ('b', 7, 5)
單條:INSERT INTO tablename SET columnA='a', columnB=1, columnC=2
復制:INSERT [options1] [INTO] tablename [ (columnlist) ]
SELECT …
若表已設置主鍵如columnA,重復的插入無效
ERROR 1062 (23000): Duplicate entry 'value' for key 'PRIMARY'
如果數據庫中已有某條數據,以下的兩條語句可等同:
INSERT INTO tablename (id, data) VALUES (1, 10) ON DUPLICATE KEY UPDATE data=data+10;
UPDATE tablename SET data=data+10 WHERE id=1;
duplicate key語句一般應用在 格式化多條更新語句:
INSERT INTO tablename (id, data) VALUES (1, 10), (2, 15)
ON DUPLICATE KEY UPDATE data=data+VALUE(data)
二、innodb表提高插入效率
查詢表使用的引擎: show create table tablename;
innodb 的存儲引擎提供行級鎖,支持共享鎖和排他鎖兩種鎖定模式,以及四種不同的隔離級別。
對於Innodb 類型的表,我們有以下幾種方式可以提高導入的效率:
a. 因為Innodb 類型的表是按照主鍵的順序保存的,所以將導入的數據按照主鍵的順
序排列,可以有效的提高導入數據的效率。如果Innodb 表沒有主鍵,那么系統會默認
創建一個內部列作為主鍵,所以如果可以給表創建一個主鍵,將可以利用這個優勢提高
導入數據的效率。
b. 在導入數據前執行SET UNIQUE_CHECKS=0,關閉唯一性校驗,在導入結束后執行SET
UNIQUE_CHECKS=1,恢復唯一性校驗,可以提高導入的效率。
c. 如果應用使用自動提交的方式,建議在導入前執行SET AUTOCOMMIT=0,關閉自動
提交,導入結束后再執行SET AUTOCOMMIT=1,打開自動提交,也可以提高導入的效率。
如果如果你同時從同一客戶插入很多行,使用多個值表的INSERT 語句。這比使用分開INSERT 語句快(在一些情況中幾倍)。
你從不同客戶插入很多行,能通過使用INSERT DELAYED 語句得到更高的速度。Delayed 的含義是讓insert 語句馬上執行,其實數據都被放在內存的隊列中,並沒有真正寫入磁盤;這比每條語句分別插入要快的多;LOW_PRIORITY 剛好相反,在所有其他用戶對表的讀寫完后才進行插入;
在項目中遇到的問題時,使用了這種insert處理,但是分庫分表,數據表類型為innodb, tablename各不相同,duplicate key只是用於合並update和insert語句。
"java.sql.BatchUpdateException: Deadlock found when trying to get lock; try restarting transaction" 錯誤狀況為 第一個插入即出錯,或一個batch中重復一個key,插入多個值。 貌似mysql有這個bug(http://bugs.mysql.com/bug.php?id=52020)
使用threadlocal去獲取操作數據庫的對象,static對象,獲取pool的連接並執行批處理方法
PRIMARY KEY
UNIQUE KEY 的區別
