首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

mysql批量插入测试数据

基础概念

MySQL 批量插入是指一次性插入多条记录到数据库表中,而不是逐条插入。批量插入可以显著提高数据插入的效率,减少与数据库的交互次数,从而提升性能。

优势

  1. 性能提升:批量插入减少了与数据库的通信次数,降低了网络开销和数据库负载。
  2. 事务管理:批量插入可以作为一个事务处理,确保数据的完整性和一致性。
  3. 简化代码:减少了插入操作的代码量,使代码更加简洁。

类型

  1. 使用 INSERT INTO ... VALUES 语法
  2. 使用 INSERT INTO ... VALUES 语法
  3. 使用 LOAD DATA INFILE 语法
  4. 使用 LOAD DATA INFILE 语法

应用场景

  1. 数据迁移:将大量数据从一个数据库迁移到另一个数据库。
  2. 数据初始化:在系统初始化时插入大量测试数据。
  3. 日志记录:批量插入日志记录,减少对数据库的频繁写操作。

示例代码

以下是一个使用 INSERT INTO ... VALUES 语法批量插入数据的示例:

代码语言:txt
复制
-- 创建测试表
CREATE TABLE test_table (
    id INT AUTO_INCREMENT PRIMARY KEY,
    name VARCHAR(50),
    age INT
);

-- 批量插入数据
INSERT INTO test_table (name, age)
VALUES
('Alice', 25),
('Bob', 30),
('Charlie', 35),
('David', 40);

遇到的问题及解决方法

问题:批量插入数据时速度慢

原因

  1. 网络延迟:数据库服务器和应用服务器之间的网络延迟。
  2. 数据库性能:数据库服务器的性能瓶颈,如CPU、内存、磁盘I/O等。
  3. 索引影响:插入数据时,数据库需要维护索引,过多的索引会影响插入速度。

解决方法

  1. 优化网络:确保数据库服务器和应用服务器之间的网络连接稳定且低延迟。
  2. 提升数据库性能:增加数据库服务器的硬件资源,如CPU、内存、SSD硬盘等。
  3. 减少索引:在批量插入数据前,可以暂时禁用索引,插入完成后再重新启用索引。
代码语言:txt
复制
-- 禁用索引
ALTER TABLE test_table DISABLE KEYS;

-- 批量插入数据
INSERT INTO test_table (name, age)
VALUES
('Alice', 25),
('Bob', 30),
('Charlie', 35),
('David', 40);

-- 启用索引
ALTER TABLE test_table ENABLE KEYS;

问题:批量插入数据时出现死锁

原因

  1. 事务冲突:多个事务同时操作同一组数据,导致死锁。
  2. 锁等待:某个事务持有锁等待另一个事务释放锁。

解决方法

  1. 优化事务:尽量减少事务的持有时间,避免长时间占用锁。
  2. 调整事务隔离级别:根据业务需求调整事务隔离级别,减少锁冲突。
代码语言:txt
复制
-- 设置事务隔离级别为READ COMMITTED
SET TRANSACTION ISOLATION LEVEL READ COMMITTED;

-- 开启事务
START TRANSACTION;

-- 批量插入数据
INSERT INTO test_table (name, age)
VALUES
('Alice', 25),
('Bob', 30),
('Charlie', 35),
('David', 40);

-- 提交事务
COMMIT;

参考链接

希望这些信息对你有所帮助!如果有更多问题,欢迎继续提问。

页面内容是否对你有帮助?
有帮助
没帮助

相关·内容

MySQL批量插入测试数据的几种方式

前言 在开发过程中我们不管是用来测试性能还是在生产环境中页面展示好看一点, 又或者学习验证某一知识点经常需要一些测试数据, 这个时候如果手敲的话, 十行二十行还好, 多了就很死亡了, 接下来介绍两种常用的...MySQL测试数据批量生成方式 存储方式+函数 Navicat的数据生成 一、表 准备了两张表 角色表: id: 自增长 role_name: 随机字符串, 不允许重复 orders: 1-1000..., 通过函数保证数据不重复 设置允许创建函数 查看 MySQL是否允许创建函数 SHOW VARIABLES LIKE 'log_bin_trust_function_creators'; 结果如图所示...例如角色名称, 选择了 职位名称 还可以进行是否包含 null 的选择等 但是如果是 姓名 那么就会让你选择是否唯一 数字的话会让你选择范围, 默认值等 等确定好了, 我们就可以点击右下角进行生成随机测试数据...通过结果可以看到生成十一万测试数据一共用时十一秒, 比第一种方法速度快很多, 推荐使用

59510
  • Mysql批量插入分析【面试+工作】

    前言 最近发现几个项目中都有批次插入数据库的功能,每个项目中批次插入的写法有一些差别,所以本文打算对Mysql的批次插入做一个详细的分析。...准备 1.jdk1.7,mysql5.6.38 2.准备库和表 ? 测试与分析 下面准备几种插入的方式来分析优劣: 1.Statement插入方式 ?...此方法计算每次提交批量数据中的多少条数据,其中一个maxAllowedPacket参数,此参数在服务器端配置用来限制客户端每个包的最大字节数; 查询maxAllowedPacket: ?...此方式可以很好的执行批量数据的插入,但是如果数据量很大,一下执行所有数据的批次插入,很容易造成客户端内存的溢出,所以也可以使用第三种方式; 3.PreparedStatement分批次方式 部分代码如下...总结 本文通过三种方式来插入数据,从而了解Mysql批次插入的过程,了解到useLocalSessionState和rewriteBatchedStatements参数对性能的影响,以及maxAllowedPacket

    1.9K20

    MySql批量插入语句(INSERT)

    使用INSERT语句实现批量插入 前言 在初始化数据库或者导入一些数据时,常常会用到批量的操作,如果在循环的脚本中使用单条插入数据的语句时,就意味着多次与数据库建立连接,这样会急剧消耗服务器的性能。...那么,MySql是提供了批量插入语句的,和单条插入语句类似。...单条插入语句写法 INSERT INTO [表名] ([列名],[列名]) VALUES([列值],[列值]); 批量插入语句写法 INSERT INTO [表名]([列名],[列名]) VALUES...([列值],[列值])), ([列值],[列值])), ([列值],[列值])); 由此看来两者很相似,批量插入语句则是在前者的值后面继续添加新的值,并用逗号分隔。...NULL, `sex` VARCHAR(16), PRIMARY KEY ( `id` ) )ENGINE=InnoDB DEFAULT CHARSET=utf8; 查看结果 批量插入记录

    11.1K20

    MySQL 批量插入:如何不插入重复数据?

    知识这个东西,看来真的要温故而知新,一直不用,都要忘记了 业务很简单:需要批量插入一些数据,数据来源可能是其他数据库的表,也可能是一个外部excel的导入 那么问题来了,是不是每次插入之前都要查一遍...向大数据数据库中插入值时,还要判断插入是否重复,然后插入。如何提高效率 看来这个问题不止我一个人苦恼过。...user (name) SELECT 'telami' FROM dual WHERE NOT EXISTS (SELECT id FROM user WHERE id = 1) 这种方法其实就是使用了mysql...item.username}, #{item.mobileNumber} ) ON duplicate KEY UPDATE id = id 这里用的是Mybatis,批量插入的一个操作...这样在批量插入时,如果存在手机号相同的话,是不会再插入了的。 来源:www.telami.cn

    3.6K20

    小白学习MySQL - 随机插入测试数据的工具

    我们日常做一些MySQL测试的时候,经常要造数据,通常就写个循环插入数据的存储过程。前两天碰巧看文章说,mysql_random_data_load程序能向MySQL随机插入大量数据,于是了解一下。...(1)); 执行指令,6秒插入10万数据, -bash-4.2$ ..../mysql_random_data_load -h127.0.0.1 -u用户名 -p密码 --max-threads=2(线程数) 数据库名称 表名 100000(插入数据量) INFO[2021-...=================================================] 100% 看下效果,id就只有2条相同的, c1列有20个值,数据比较分散, 还是能满足基本的测试数据要求的...《小白学习MySQL - 索引键长度限制的问题》 《小白学习MySQL - MySQL会不会受到“高水位”的影响?》

    1.4K20

    Mysql批量插入时,如何不插入重复的数据

    业务很简单:需要批量插入一些数据,数据来源可能是其他数据库的表,也可能是一个外部excel的导入 那么问题来了,是不是每次插入之前都要查一遍,看看重不重复,在代码里筛选一下数据,重复的就过滤掉呢?...向大数据数据库中插入值时,还要判断插入是否重复,然后插入。如何提高效率 看来这个问题不止我一个人苦恼过。...user (name) SELECT 'telami' FROM dual WHERE NOT EXISTS (SELECT id FROM user WHERE id = 1) 这种方法其实就是使用了mysql...item.mobileNumber} ) ON duplicate KEY UPDATE id = id 这里用的是Mybatis,批量插入的一个操作...这样在批量插入时,如果存在手机号相同的话,是不会再插入了的。

    5.4K21

    mysql批量插入大量数据「建议收藏」

    mysql批量插入大量数据 时间:2020年11月25日 今天遇到了一个批量插入大量数据任务,然后出于小白本能,直接for-each循环插入不就好了,于是手上开始噼里啪啦一顿操作,写好了从读取excel...1w条数据进行比较 1w条数据插入了11s,比上面不知道快了多少,可是这样插入是有一个弊端的,就是数据量再大一点的话,会报错的,我改成10w去跑一下给你们看一下效果 ### Cause: com.mysql.cj.jdbc.exceptions.PacketTooBigException...三、method-3 第三种,通过原生的jdbc连接设置,然后打开批量处理的方式去处理数据 MySQL的JDBC连接的url中要加rewriteBatchedStatements参数,并保证5.1.13...以上版本的驱动,才能实现高性能的批量插入。...MySQL JDBC驱动在默认情况下会无视executeBatch()语句,把我们期望批量执行的一组sql语句拆散,一条一条地发给MySQL数据库,批量插入实际上是单条插入,直接造成较低的性能。

    3.8K10
    领券