首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

1亿条数据批量插入 MySQL,哪种方式最快?

、无事务) 3 总结 4 补充 ---- 利用JAVA向Mysql插入一亿数量级数据—效率测评 这几天研究mysql优化中查询效率时,发现测试的数据太少(10万级别),利用 EXPLAIN 比较不同的...随后,利用mybatis向mysql插入10000数据。...如图: 成功插入1W条数据耗时:21603 成功插入1W条数据耗时:20537 成功插入1W条数据耗时:20470 成功插入1W条数据耗时:21160 成功插入1W条数据耗时:23270 成功插入1W...接着我们测试开启事务后,插入十万条数据耗时,如图: 成功插入1W条数据耗时:4938 成功插入1W条数据耗时:3518 成功插入1W条数据耗时:3713 成功插入1W条数据耗时:3883 成功插入1W...条数据耗时:3872 成功插入1W条数据耗时:3873 成功插入1W条数据耗时:3863 成功插入1W条数据耗时:3819 成功插入1W条数据耗时:3933 成功插入1W条数据耗时:3811 插入10W

3.7K30
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    MySQL 数据库插入 100w 条数据要花多久?

    1、多线程插入(单表) 2、多线程插入(多表) 3、预处理SQL 4、多值插入SQL 5、事务(N条提交一次) 多线程插入(单表) 问:为何对同一个表的插入多线程会比单线程快?...答:在数据里做插入操作的时候,整体时间的分配是这样的: 1、多链接耗时 (30%) 2、多发送query到服务器 (20%) 3、多解析query (20%) 4、多插入操作 (10% * 词条数目...MySQL插入数据在写阶段是独占的,但是插入条数据仍然需要解析、计算、最后才进行写处理,比如要给每一条记录分配自增id,校验主键唯一键属性,或者其他一些逻辑处理,都是需要计算的,所以说多线程能够提高效率...) 使用多值插入SQL,SQL语句的总长度减少,即减少了网络IO,同时也降低了连接次数,数据库一次SQL解析,能够插入条数据。...mysql数据库 多条SQL语句 public void ExecuteSqlTran(List SQLStringList) { using (MySqlConnection

    1.6K20

    100w条数据 | 插入Mysql你要用多长时间?

    目录 1、多线程插入(单表) 2、多线程插入(多表) 3、预处理SQL 4、多值插入SQL 5、事务(N条提交一次) 多线程插入(单表) 问:为何对同一个表的插入多线程会比单线程快?...答:在数据里做插入操作的时候,整体时间的分配是这样的: 1、多链接耗时 (30%) 2、多发送query到服务器 (20%) 3、多解析query (20%) 4、多插入操作 (10% * 词条数目...MySQL插入数据在写阶段是独占的,但是插入条数据仍然需要解析、计算、最后才进行写处理,比如要给每一条记录分配自增id,校验主键唯一键属性,或者其他一些逻辑处理,都是需要计算的,所以说多线程能够提高效率...) 使用多值插入SQL,SQL语句的总长度减少,即减少了网络IO,同时也降低了连接次数,数据库一次SQL解析,能够插入条数据。...mysql数据库 多条SQL语句 public void ExecuteSqlTran(List SQLStringList) { using (MySqlConnection conn

    2.2K90

    如何快速插入 100 条数据,用时最短

    答:在数据里做插入操作的时候,整体时间的分配是这样的: 链接耗时 (30%) 发送query到服务器 (20%) 解析query (20%) 插入操作 (10% * 词条数目) 插入index (10%...MySQL插入数据在写阶段是独占的,但是插入条数据仍然需要解析、计算、最后才进行写处理,比如要给每一条记录分配自增id,校验主键唯一键属性,或者其他一些逻辑处理,都是需要计算的,所以说多线程能够提高效率...多线程插入(多表) 分区分表后使用多线程插入。...) 使用多值插入SQL,SQL语句的总长度减少,即减少了网络IO,同时也降低了连接次数,数据库一次SQL解析,能够插入条数据。.../// mysql数据库 /// 多条SQL语句 public void ExecuteSqlTran(List

    71410

    怎么快速插入 100 条数据,用时最短

    答:在数据里做插入操作的时候,整体时间的分配是这样的: 链接耗时 (30%) 发送query到服务器 (20%) 解析query (20%) 插入操作 (10% * 词条数目) 插入index (10%...MySQL插入数据在写阶段是独占的,但是插入条数据仍然需要解析、计算、最后才进行写处理,比如要给每一条记录分配自增id,校验主键唯一键属性,或者其他一些逻辑处理,都是需要计算的,所以说多线程能够提高效率...多线程插入(多表) 分区分表后使用多线程插入。...) 使用多值插入SQL,SQL语句的总长度减少,即减少了网络IO,同时也降低了连接次数,数据库一次SQL解析,能够插入条数据。.../// mysql数据库 /// 多条SQL语句 public void ExecuteSqlTran

    77120

    你向 Mysql 数据库插入 100w 条数据用了多久?

    目录 1、多线程插入(单表) 2、多线程插入(多表) 3、预处理SQL 4、多值插入SQL 5、事务(N条提交一次) 多线程插入(单表) 问:为何对同一个表的插入多线程会比单线程快?...答:在数据里做插入操作的时候,整体时间的分配是这样的: 1、多链接耗时 (30%) 2、多发送query到服务器 (20%) 3、多解析query (20%) 4、多插入操作 (10% * 词条数目...MySQL插入数据在写阶段是独占的,但是插入条数据仍然需要解析、计算、最后才进行写处理,比如要给每一条记录分配自增id,校验主键唯一键属性,或者其他一些逻辑处理,都是需要计算的,所以说多线程能够提高效率...) 使用多值插入SQL,SQL语句的总长度减少,即减少了网络IO,同时也降低了连接次数,数据库一次SQL解析,能够插入条数据。...mysql数据库 多条SQL语句 public void ExecuteSqlTran(List SQLStringList) { using (MySqlConnection

    1.3K20

    你向 Mysql 数据库插入 100w 条数据用了多久?

    ▌目录 多线程插入(单表) 多线程插入(多表) 预处理 SQL 多值插入 SQL 事务( N 条提交一次) ▌多线程插入(单表) 问:为何对同一个表的插入多线程会比单线程快?...答:在数据里做插入操作的时候,整体时间的分配是这样的: 链接耗时 (30%) 发送 query 到服务器 (20%) 解析 query (20%) 插入操作 (10% * 词条数目) 插入 index...MySQL 插入数据在写阶段是独占的,但是插入条数据仍然需要解析、计算、最后才进行写处理,比如要给每一条记录分配自增 id,校验主键唯一键属性,或者其他一些逻辑处理,都是需要计算的,所以说多线程能够提高效率...(3) 使用多值插入 SQL,SQL 语句的总长度减少,即减少了网络 IO,同时也降低了连接次数,数据库一次 SQL 解析,能够插入条数据。.../// mysql数据库 /// 多条SQL语句 public void

    2.3K10

    你向 MySQL数据库插入 100w 条数据用了多久?

    答:在数据里做插入操作的时候,整体时间的分配是这样的: 1、多链接耗时 (30%) 2、多发送query到服务器 (20%) 3、多解析query (20%) 4、多插入操作 (10% * 词条数目...MySQL插入数据在写阶段是独占的,但是插入条数据仍然需要解析、计算、最后才进行写处理,比如要给每一条记录分配自增id,校验主键唯一键属性,或者其他一些逻辑处理,都是需要计算的,所以说多线程能够提高效率...多线程插入(多表) 分区分表后使用多线程插入。...) 使用多值插入SQL,SQL语句的总长度减少,即减少了网络IO,同时也降低了连接次数,数据库一次SQL解析,能够插入条数据。...mysql数据库 多条SQL语句 public void ExecuteSqlTran(List SQLStringList) { using (MySqlConnection

    41720

    你向 Mysql 数据库插入 100w 条数据用了多久?

    答:在数据里做插入操作的时候,整体时间的分配是这样的: 链接耗时 (30%) 发送query到服务器 (20%) 解析query (20%) 插入操作 (10% * 词条数目) 插入index (10%...MySQL插入数据在写阶段是独占的,但是插入条数据仍然需要解析、计算、最后才进行写处理,比如要给每一条记录分配自增id,校验主键唯一键属性,或者其他一些逻辑处理,都是需要计算的,所以说多线程能够提高效率...多线程插入(多表) 分区分表后使用多线程插入。...3) 使用多值插入SQL,SQL语句的总长度减少,即减少了网络IO,同时也降低了连接次数,数据库一次SQL解析,能够插入条数据。.../// mysql数据库 /// 多条SQL语句 public void

    1.3K20

    如何快速安全的插入千万条数据?

    作者:ksfzhaohuiksfzhaohui 来源:https://urlify.cn/im2uAz 前言 最近有个需求解析一个订单文件,并且说明文件可达到千万条数据,每条数据大概在20个字段左右,...思路 1.估算文件大小 因为告诉文件有千万条,同时每条记录大概在20个字段左右,所以可以大致估算一下整个订单文件的大小,方法也很简单使用FileWriter往文件中插入一千万条数据,查看文件大小,经测试大概在...,(...)的方式,经测试这种方式效率还是挺高的; 3.数据的完整性 截取数据的时候需要注意,需要保证数据的完整性,每条记录最后都是一个换行符,需要根据这个标识保证每次截取都是整条数,不要出现半条数据这种情况...; 4.数据库是否支持批次数据 因为需要进行批次数据的插入,数据库是否支持大量数据写入,比如这边使用的mysql,可以通过设置max_allowed_packet来保证批次提交的数据量; 5.中途出错的情况...(大小1.5G左右)插入mysql数据库中,大概花费时间在20分钟左右,当然可以通过设置截取的文件大小,花费的时间也会相应的改变。

    58540

    如何快速安全的插入千万条数据?

    思路 1.估算文件大小 因为告诉文件有千万条,同时每条记录大概在20个字段左右,所以可以大致估算一下整个订单文件的大小,方法也很简单使用FileWriter往文件中插入一千万条数据,查看文件大小,经测试大概在...,(...)的方式,经测试这种方式效率还是挺高的;怎么快速插入 100 条数据,用时最短,这篇看下。...3.数据的完整性 截取数据的时候需要注意,需要保证数据的完整性,每条记录最后都是一个换行符,需要根据这个标识保证每次截取都是整条数,不要出现半条数据这种情况; 4.数据库是否支持批次数据 因为需要进行批次数据的插入...,数据库是否支持大量数据写入,比如这边使用的mysql,可以通过设置max_allowed_packet来保证批次提交的数据量; 5.中途出错的情况 因为是大文件解析,如果中途出现错误,比如数据刚好插入到...经测试1000w条数据(大小1.5G左右)插入mysql数据库中,大概花费时间在20分钟左右,当然可以通过设置截取的文件大小,花费的时间也会相应的改变。

    1.1K20

    如何批量插入10万条数

    如何批量插入10万条数据 思路 批量插入的时候,一般有两种思路: 用一个 for 循环,把数据一条一条的插入(这种需要开启批处理)。...第二种方案 生成一条sql插入: 这种方案的优势在于只有一次网络 IO,即使分片处理也只是数次网络 IO,所以这种方案不会在网络 IO 上花费太多时间。...最终要考虑的就是在网络 IO 上花费的时间,是否超过了 SQL 插入的时间?这是我们要考虑的核心问题。 根据实际情况选择相应的批量插入手段。...,可以看到,MP 先对数据进行分片(默认分片大小是 1000),分片完成之后,也是一条一条的插入。...参考资料 10万条数据批量插入,到底怎么做才快?

    1.4K10

    如何快速安全的插入千万条数据?

    来源:http://i7q.cn/5cvFH1 前言 最近有个需求解析一个订单文件,并且说明文件可达到千万条数据,每条数据大概在20个字段左右,每个字段使用逗号分隔,需要尽量在半小时内入库。...思路 1.估算文件大小 因为告诉文件有千万条,同时每条记录大概在20个字段左右,所以可以大致估算一下整个订单文件的大小,方法也很简单使用FileWriter往文件中插入一千万条数据,查看文件大小,经测试大概在...,(...)的方式,经测试这种方式效率还是挺高的; 3.数据的完整性 截取数据的时候需要注意,需要保证数据的完整性,每条记录最后都是一个换行符,需要根据这个标识保证每次截取都是整条数,不要出现半条数据这种情况...; 4.数据库是否支持批次数据 因为需要进行批次数据的插入,数据库是否支持大量数据写入,比如这边使用的mysql,可以通过设置max_allowed_packet来保证批次提交的数据量; 5.中途出错的情况...(大小1.5G左右)插入mysql数据库中,大概花费时间在20分钟左右,当然可以通过设置截取的文件大小,花费的时间也会相应的改变。

    85620

    13 秒插入 30 万条数据,批量插入正确的姿势!

    30万条数插入插入数据库验证 实体类、mapper和配置文件定义 User实体 mapper接口 mapper.xml文件 jdbc.properties sqlMapConfig.xml 不分批次直接梭哈...循环逐条插入 MyBatis实现插入30万条数据 JDBC实现插入30万条数据 总结 验证的数据库表结构如下: CREATE TABLE `t_user` ( `id` int(11) NOT NULL...超出最大数据包限制了,可以通过调整max_allowed_packet限制来提高可以传输的内容,不过由于30万条数据超出太多,这个不可取,梭哈看来是不行了 既然梭哈不行那我们就一条一条循环着插入行不行呢...把批处理的量再调大一些调到5000,在执行: 13秒插入成功30万条,直接芜湖起飞 # JDBC实现插入30万条数据 JDBC循环插入的话跟上面的mybatis逐条插入类似,不再赘述。...数据库参数调整:增加MySQL数据库缓冲区大小、配置高性能的磁盘和I/O等。

    53010
    领券