Mysql中4種插入方法的效率比較
發(fā)表時間:2023-08-30 來源:明輝站整理相關軟件相關文章人氣:
[摘要]這篇文章通過實例跟大家介紹了Mysql中幾種插入方法的效率對比,這其中包括逐條插入、基于事務的批量插入、單條語句一次插入多組數據以及導入數據文件等四種方法的對比,文中通過實例代碼介紹很詳細,需要的朋友們下來來一起看看吧。前言最近因為工作的需要,要在Mysql里插入大量的數據大約1000w,目測會比...
這篇文章通過實例跟大家介紹了Mysql中幾種插入方法的效率對比,這其中包括逐條插入、基于事務的批量插入、單條語句一次插入多組數據以及導入數據文件等四種方法的對比,文中通過實例代碼介紹很詳細,需要的朋友們下來來一起看看吧。
前言
最近因為工作的需要,要在Mysql里插入大量的數據大約1000w,目測會比較耗時。所以現在就像測試一下到底用什么插入數據的方法比較快捷高效。
下面就針對每一種方法分別測試不同數據量下的插入效率。
測試數據庫的基本與操作如下:
mysql> create database test;
Query OK, 1 row affected (0.02 sec)
mysql> use test;
Database changed
mysql> create table mytable(id int primary key auto_increment ,value varchar(50));
Query OK, 0 rows affected (0.35 sec)
mysql> desc mytable;
+-------+-------------+------+-----+---------+----------------+
Field Type Null Key Default Extra
+-------+-------------+------+-----+---------+----------------+
id int(11) NO PRI NULL auto_increment
value varchar(50) YES NULL
+-------+-------------+------+-----+---------+----------------+
2 rows in set (0.02 sec)
方便測試,這里建了一個表,兩個字段,一個是自增的id,另一個是字符串表示內容。
測試時每次實驗結束都要mysql> truncate mytable
,來清空已存在的表。
方法一:逐條插入
測試代碼:(中間有1000條insert語句,用vim復制粘貼比較方便,寫完后保存到a.sql,然后在mysql提示符中輸入source a.sql)
set @start=(select current_timestamp(6));
insert into mytable values(null,"value");
......
insert into mytable values(null,"value");
set @end=(select current_timestamp(6));
select @start;
select @end;
輸出結果:
Query OK, 1 row affected (0.03 sec)
......
Query OK, 1 row affected (0.03 sec)
Query OK, 0 rows affected (0.00 sec)
+----------------------------+
@start
+----------------------------+
2016-05-05 23:06:51.267029
+----------------------------+
1 row in set (0.00 sec)
+----------------------------+
@end
+----------------------------+
2016-05-05 23:07:22.831889
+----------------------------+
1 row in set (0.00 sec)
總共耗時31.56486s,事實上幾乎每條語句花的時間是差不多的,基本就是30ms。
這樣子1000w的數據就得花87h。
至于更大的數據量也就不試了,這種方法肯定不可取。
方法二:基于事務的批量插入
實際上就是把這么多的查詢放在一個事務中。事實上方法一中沒一條語句都開了一個事務,因此才會特別慢。
測試代碼:(與方法一基本類似,主要添加兩行,由于比較快,這里測試了多種數據量)
set @start=(select current_timestamp(6));
start transaction;
insert into mytable values(null,"value");
......
insert into mytable values(null,"value");
commit;
set @end=(select current_timestamp(6));
select @start;
select @end;
測試結果:
數據量 時間(s)
1k 0.1458
1w 1.0793
10w 5.546006
100w 38.930997
看出來基本是對數時間,效率還是比較高的。
方法三:單條語句一次插入多組數據
就是一條insert一次插入多個value。
測試代碼:
insert into mytable values (null,"value"),
(null,"value"),
......
(null,"value");
測試結果:
數據量 時間(s)
1k 0.15
1w 0.80
10w 2.14
100w *
看上去也是對數時間,而且比方法二要稍微快一點。不過問題在于單次SQL語句是有緩沖區(qū)大小限制的,雖然可以修改配置讓他變大,但也不能太大。所以在插入大批量的數據時也用不了。
方法四:導入數據文件
將數數據寫成數據文件直接導入(參照上一節(jié))。
數據文件(a.dat):
null value
null value
.....
null value
null value
測試代碼:
mysql> load data local infile "a.dat" into table mytable;
測試結果:
數據量 時間(s)
1k 0.13
1w 0.75
10w 1.97
100w 6.75
1000w 58.18
時間最快,就是他了。。。。
以上就是Mysql中四種插入方法的效率對比的詳細內容,更多請關注php中文網其它相關文章!
學習教程快速掌握從入門到精通的SQL知識。