EF大數據批量添加性能問題


前幾天做一個批量發消息的功能,因為要向消息表中批量寫入數據,用的EF框架的插入方法;不用不知道,一用嚇一跳;就10000條數據就耗時好幾分鍾,對應追求用戶體驗的我來說這是極不能容忍的,后來改為拼接SQL,性能提高了好幾倍;現在來分享一下經驗:

原始的方法類似這種:

 1         public ActionResult Add(ItemDetails entity)
 2         {
 3             var sw = new Stopwatch();
 4             sw.Start();
 5             using (db)
 6             {
 7                 for (var i = 0; i < 10000; i++)
 8                 {
 9                     db.ItemDetails.Add(entity);
10                     db.SaveChanges();
11                 }
12             }
13             sw.Stop();
14             var date = sw.Elapsed;
15             return Json(string.Format("總耗時:{0}", date));
16         }

 

來看看添加10000條數據耗時:

就10000條數據就耗時這么久,要是上百萬的數據量,那簡直就不能想象,再來看看優化后的:

生成SQL的方法:

 1 public class ItemDetailBatch
 2     {
 3         public static string BatchAdd(ItemDetails entity)
 4         {
 5             SqlParameter [] paras=
 6             {
 7                 new SqlParameter("@Item_Name",SqlDbType.VarChar,100), 
 8                 new SqlParameter("@Item_Price",SqlDbType.Int), 
 9                 new SqlParameter("@Image_Name",SqlDbType.VarChar,100), 
10                 new SqlParameter("@Description",SqlDbType.VarChar,100),
11                 new SqlParameter("@AddedBy",SqlDbType.VarChar,100)
12             };
13             paras[0] .Value= entity.Item_Name;
14             paras[1].Value = entity.Item_Price;
15             paras[2].Value = entity.Image_Name;
16             paras[3].Value = entity.Description;
17             paras[4].Value = entity.AddedBy;
18             var sb=new StringBuilder();
19             sb.Append("insert into ItemDetails (Item_Name,Item_Price,Image_Name,Description,AddedBy) ");
20             sb.AppendFormat("values ('{0}',{1},'{2}','{3}','{4}')", paras[0].Value, paras[1].Value, paras[2].Value,paras[3].Value, paras[4].Value);
21             return sb.ToString();
22         }
23     }

 

Controller層調用:

 1         public ActionResult Add(ItemDetails entity)
 2         {
 3             var sw = new Stopwatch();
 4             sw.Start();
 5             using (var db = new ShoppingDBConn())
 6             {
 7                 var sql = new StringBuilder();
 8                 for (int i = 0; i < 10000; i++)
 9                 {
10                     //生成SQL
11                     sql.Append(ItemDetailBatch.BatchAdd(entity));
12                 }
13                 //一次性執行SQL
14                 db.Database.ExecuteSqlCommand(sql.ToString());
15             }
16             sw.Stop();
17             var date = sw.Elapsed;
18             return Json(string.Format("總耗時:{0}", date));
19         }

界面數據:

同樣10000條總耗時:

EF沒添加一次都要向數據庫提交一次,而直接拼接SQL的方法就是減少與數據庫的交互次數,一次性提交執行所有數據;

 


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM