MySQL 按日期分表


一、表不存在時則創建

  之前做項目實在是太趕了,很多東西都沒記錄。是時候補回來了

  MySQL做一個大表,由於要存歷史記錄,所以數據量很大,查詢很慢。恰好查詢的時候,又不需要時間太久的冷數據。現在將其實現原理提取成一個控制台小程序。

  首先,創建一個簡單的數據庫訪問類。

    public static class CommonDao
    {
        private static MySqlConnection conn = new MySqlConnection(ConfigurationManager.AppSettings["DB"]);        //創建連接

        /// <summary>
        /// Insert Update Delete語句的執行
        /// </summary>
        /// <param name="SQL">SQL語句</param>
        /// <returns>返回影響行數</returns>
        public static int ExecuteNonQuerySQL(string SQL)
        {
            MySqlCommand cmd = conn.CreateCommand();
            cmd.CommandText = SQL;
            if (conn.State != ConnectionState.Open)
            {
                conn.Open();
            }
            int Count = cmd.ExecuteNonQuery();
            conn.Close();
            return Count;
        }
    }

  由於是按分鍾分表,所以寫個定時器,每一分鍾往里面插入5條數據:

        static void Main(string[] args)
        {
            //每分鍾執行一次,插入5條數據
            Timer t = new Timer(60000);
            t.Enabled = true;       //到達時間就執行一次,或者是持續執行
            t.AutoReset = true;     //一直執行

            t.Elapsed += (sender, eea) =>
            {
                for (int i = 0; i < 5; i++)
                {
                    DateTime dt = DateTime.Now;
                    string TableName = "person" + dt.ToString("yyyyMMddHHmm");
                    string sql = "INSERT INTO " + TableName + " VALUES(null,'superman','" + dt.ToString("yyyy-MM-dd HH:mm:ss") + "')";
                    try
                    {
                        CommonDao.ExecuteNonQuerySQL(sql);
                    }
                    catch (Exception e)
                    {
                        MySqlException ex = e as MySqlException;
                        //1146的代號就是表不存在的錯誤
                        if (ex.Number == 1146)
                        {
                            //如果表不存在,則先創建這個表
                            string SQLCreateTable = "CREATE TABLE " + TableName + " LIKE person";  //從模板表來創建新表,這樣的好處是索引、自增什么的可以一次性建好
                            CommonDao.ExecuteNonQuerySQL(SQLCreateTable);
                        }
                    }
                }

            };

            Console.ReadKey();
        }

  第一張Person模板表的格式如下:

CREATE TABLE `person` (
  `Id` int(11) NOT NULL AUTO_INCREMENT,
  `Name` varchar(255) DEFAULT NULL,
  `OperateTime` datetime DEFAULT NULL,
  PRIMARY KEY (`Id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

  

  於是就每分鍾都會創建表並添加數據。

  

二、分表后跨表查詢的問題

  分表后有很多問題要處理,簡單做兩個,maybe會有其他問題。

  1、數據在哪個表里;

  2、數據跨表了,那么就需要表連接;

  通常對這種大表,都肯定要加時間的了,所以要根據時間來判斷查哪張表和如何表連接。

  增加一個查詢的方法:

        /// <summary>
        /// 根據SQL語句查詢DataTable
        /// </summary>
        /// <param name="SQL">SQL語句</param>
        /// <returns>返回DataTable</returns>
        public static DataTable GetDataTableBySQL(string SQL)
        {
            DataSet ds = new DataSet();
            MySqlDataAdapter Msda = new MySqlDataAdapter(SQL, conn);
            Msda.Fill(ds);
            DataTable dt = new DataTable();
            if (ds.Tables.Count > 0)
            {
                dt = ds.Tables[0];
            }
            return dt;
        }

  數據定位的方法:

        public static string GetTableName(DateTime dtStart, DateTime dtEnd)
        {
            if(dtStart.ToString("yyyyMMddHHmm") == dtEnd.ToString("yyyyMMddHHmm"))
            {
                return "person" + dtStart.ToString("yyyyMMddHHmm");
            }
            else
            {
                string TableName = "(SELECT * FROM person" + dtStart.ToString("yyyyMMddHHmm");
                DateTime dt = dtStart.AddMinutes(1);
                while(dt.ToString("yyyyMMddHHmm") != dtEnd.ToString("yyyyMMddHHmm"))
                {
                    TableName += " UNION ALL SELECT * FROM person" + dt.ToString("yyyyMMddHHmm");
                    dt = dt.AddMinutes(1);
                }
                TableName += " UNION ALL SELECT * FROM person" + dt.ToString("yyyyMMddHHmm") + ") AS T";
                return TableName;
            }
        }

  測試查詢:

            string sql = "SELECT * FROM " + GetTableName(Convert.ToDateTime("2016-04-21 17:54:00"),Convert.ToDateTime("2016-04-21 17:56:00"));
            DataTable dt = CommonDao.GetDataTableBySQL(sql);
            foreach(DataRow dr in dt.Rows)
            {
                Console.WriteLine(dr[0] + " " + dr[1] + " " + dr[2]);
            }

  結果如下:

  

  很明顯上面的代碼暴露出了一個問題,ID重復了。

  本處提供的可選解決方案是。

  1、ID使用GUID。

  2、自增數字的前面加上表名的日期前綴,如,如果你是按月分表,自增Id設置long類型,然后起止值設置為"201604000000000000000 + Id"。這樣就不會重復啦。

  自定數字的方式只需多執行以下一條SQL語句:

ALTER TABLE person201604211757 AUTO_INCREMENT=2016042100;

  然后生成的ID列的值如下:

  簡單示例就是如此


免責聲明!

本站轉載的文章為個人學習借鑒使用,本站對版權不負任何法律責任。如果侵犯了您的隱私權益,請聯系本站郵箱yoyou2525@163.com刪除。



 
粵ICP備18138465號   © 2018-2025 CODEPRJ.COM