批量插入时发生ADO.net服务器超时,该如何改善?

问题描述

所以我有在ADO Net中使用参数化查询插入数据的应用程序,但是我注意到会有服务器超时错误。当有太多插入时发生。插入的行几乎是1500行。对于每个请求。在繁忙时间,可以同时有10-30个请求。添加超时将解决问题。在正常情况下,请求只需7到15秒即可完成。但是在我的日志中,有时会在一个繁忙的小时中看到“异常错误”。添加超时将解决问题,或者我可以做任何调整来提高性能

foreach (var item in collection) {
{
  using (var con = new sqlConnection("connectionString here"))
 {
   con.open();
   var sql = "INSERT INTO  my_table (a,b,c) VALUES (@a,@b,@c);"

   using (var comm = new sqlCommand(sql,con))
   {
       comm.Parameters.Add("@a",sqlDbType.Int);
       comm.Parameters.Add("@b",sqlDbType.NVarChar);
       comm.Parameters.Add("@c",sqlDbType.Int);
      
       comm.Parameters["@a"].Value = aVal;
       comm.Parameters["@b"].Value = bVal;
       comm.Parameters["@b"].Size = bVal.Length;
       comm.Parameters["@c"].Value = cVal;
       comm.ExecuteNonQuery();
       con.Close();
      
   }
 

  }
}

解决方法

根据您的描述,建议您考虑使用以下方法来提高性能。

(1)我建议您可以尝试使用ADO.net SqlBulkCopy更快地插入记录。

执行批量复制操作的一般步骤如下:

1。连接到源服务器并获取要复制的数据。如果可以从IDataReader或DataTable对象检索数据,则数据也可以来自其他来源。

2。连接到目标服务器(除非您希望SqlBulkCopy为您建立连接)。

3。创建一个SqlBulkCopy对象,设置任何必要的属性。

4。设置DestinationTableName属性以指示批量插入操作的目标表。

5。调用WriteToServer方法之一。

6。(可选)更新属性并根据需要再次调用WriteToServer。

7。调用Close,或将大容量复制操作包装在Using语句中。

示例:

//I directly copy a table's schema,you could directly create a new table with the same sql server table column schema.
DataTable dt = s_EmptyUploadTable.Copy();
foreach (var itm in yourList) {
    DataRow row = dt.NewRow();
    row["Field1"] = itm.Field1;
    row["Field2"] = itm.Field2;
    dt.Rows.Add(row);
}
using (SqlConnection cn = new SqlConnection(yourConnectionString)) {
    cn.Open();
    using (SqlBulkCopy bulkCopy = new SqlBulkCopy(cn)) {
        bulkCopy.DestinationTableName = "dbo.YourActualSQLServerTableName";
        bulkCopy.WriteToServer(dt);
    }
    cn.Close();
}

(2)如果使用bulkcopy仍然无法解决问题,建议您首先尝试将数据像redis一样存储到缓存中。然后,您可以编写一个asp.net核心后台服务,以从redis中读取数据并将数据插入数据库中。

有关如何使用Redis的更多详细信息,您可以参考此article。有关如何使用asp.net后台服务的更多详细信息,可以参考此article