mysql从一张表查询批量数据并插入到另一表中的完整实例

Nice MySql

2022-05-21 0 790

说在前面

nodejs 读取数据库是一个异步操作，所以在数据库还未读取到数据之前，就会继续往下执行代码。
最近写东西时，需要对数据库进行批量数据的查询后，insert到另一表中。
说到批量操作，让人最容易想到的是for循环。

错误的 for 循环版本

先放出代码,提前说明一下，在这里封装了sql操作:sql.sever(数据库连接池，sql语句拼接函数，回调函数)

for(let i=0;i<views.xuehao.length;i++){
	sql.sever(pool,sql.select(["name"],"registryinformation",["xuehao="+sql.escape(views.xuehao[i])]),function(data){
  sql.sever(pool,sql.insert("personnelqueue",["xuehao","name","selfgroup","time"],[sql.escape(views.xuehao[i]),data[0].name,selfgroup,'NOW()'],true),function(){
  let allGroup = ['Android', 'ios', 'Web', '后台','产品'];	//这里是邮件相关代码
  let group = allGroup[selfgroup - 1];
  let mailmsg = "您好，" + group + "组通过人员表已提交，请您尽快审核！";
  mail.mailepass(mailmsg);
  res.write(JSON.stringify({
   style:1,
   msg:"已将名单提交，待管理员审核！"
  }));
  res.end();
  })
 })
}

上面代码中，是先进行数据查询再进行数据的插入，（在这里假定有2条数据）按照常理，我们想的执行顺序是：查询插入查询插入。然而，并非我们所想那么简单，虽然插入操作也确实在数据库查询的回调中写的，但是实际的顺序是：查询查询，一旦直接进行了两次查询，想当然后面的代码直接报错了。没来得及回调时，已经执行了第二次循环。

改进的 for 循环版本

mysql 用一条语句可以完成查询并插入，格式为：INSERT IGNORE INTO 插入表表名 (item1,item2) SELECT item1,item2 FROM 查询表表名 WHERE,于是乎，便想到了下面的解决方案。

for (let i = 0; i < views.xuehao.length; i++) {
 sql.sever(pool, 'INSERT IGNORE INTO personnelqueue (xuehao,name,selfgroup,time) SELECT xuehao,name,selfgroup,NOW() FROM registryinformation WHERE xuehao=' + sql.escape(views.xuehao[i]) + ' and pass=' + state, function () {
  if (i == views.xuehao.length - 1) {
   let allGroup = ['Android', 'ios', 'Web', '后台', '产品'];
   let group = allGroup[selfgroup - 1];
   let mailmsg = "您好，" + group + "组通过人员表已提交，请您尽快审核！";
   mail.mailepass(mailmsg);
   res.write(JSON.stringify({
    style: 1,
    msg: "已将名单提交，待管理员审核！"
   }));
   res.end();
  }
 })
}

这样，数据库操作正确，目的达到了。但是仔细想来，这样做还是有缺陷的。如果数据量小还好说，但若数据量大时，这样导致程序和数据库建立多次连接，会增加服务器负荷。

改进版

结合上一次的缺陷，顾名思义，这次我们要减少程序与数据库连接次数。于是，我们不再将插入和查询写到一起，而是将其分开，进行批量的插询，从而利用所查数据批量插入。代码如下：

let sqlString = 'SELECT xuehao,name,selfgroup FROM registryinformation WHERE pass=' + state + ' AND (xuehao=' + sql.escape(views.xuehao[0]);
for (let i = 1; i < views.xuehao.length; i++) {
 sqlString += ' OR xuehao=' + sql.escape(views.xuehao[i]);
}
sqlString = sqlString + ')';
sql.sever(pool, sqlString, function (data) {
 //拼接插入sql语句
 let istSqlStr = 'INSERT IGNORE INTO personnelqueue (xuehao,name,selfgroup,time) VALUES (' + data[0].xuehao + ',' + sql.escape(data[0].name) + ',' + data[0].selfgroup + ',NOW())';
 for (let j = 1; j < data.length; j++) {
 istSqlStr += ',(' + data[j].xuehao + ',' + sql.escape(data[j].name) + ',' + data[j].selfgroup + ',' + 'NOW())';
 }
 sql.sever(pool, istSqlStr, function () {
 let allGroup = ['Android', 'ios', 'Web', '后台', '产品'];
 let group = allGroup[selfgroup - 1];
 let mailmsg = "您好，" + group + "组通过人员表已提交，请您尽快审核！";
 mail.mailepass(mailmsg);
 res.write(JSON.stringify({
  style: 1,
  msg: "已将名单提交，待管理员审核！"
 }));
 res.end();
 })
})

补充

批量查询语法（在这里and与or进行了混用） SELECT 列名,列名 FROM 表名 WHERE 条件 AND (item1=‘xxx’ OR item1=‘yyy’);
一条语句进行批量插入语法 INSERT INTO [ 表名 ]([ 列名] ,[ 列名 ]) VALUES([列值],[列值])),([列值],[列值])),([列值],[列值]));