首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

MySQL批量插入数据的四种方案(性能测试对比)

来源:blog.csdn.net/a18505947362/article/details/123667215 本文记录个人使用MySQL插入大数据总结较实用的方案,通过对常用插入大数据的4种方式进行测试...一、前言 最近趁空闲之余,在对MySQL数据库进行插入数据测试,对于如何快速插入数据的操作无从下手,在仅1W数据量的情况下,竟花费接近47s,实在不忍直视!在不断摸索之后,整理出一些较实用的方案。...简明:完成准备工作后,即对for循环、拼接SQL语句、批量插入saveBatch()、循环插入+开启批处理模式,该4种插入数据的方式进行测试性能。...MySQL数据库,造成实际上是分片插入,即与单条插入方式相比,有提高,但是性能未能得到实质性的提高。...:1831 约等于 1.8秒 (2)第二次测试结果:1382 约等于 1.4秒(服务未重启) (3)第三次测试结果:1883 约等于 1.9秒(服务重启) 四、总结 本文记录个人学习MySQL插入大数据一些方案心得

8.9K10
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    MySql性能测试

    Mysql性能测试主要内容 MySql数据库介绍 MySql数据库监控之重点监控指标 MySql慢查询的工作原理及操作 Sql的分析与调优的方法 MySql索引的概念及作用 MySql的工作原理及设计规范...mysql存储引擎 mysql实时监控 mysql集群监控方案 mysql性能测试的用例准备 执行测试 相信很多做性能测试的朋友都知道,性能测试并不单单只是看服务器cpu、IO、内存、网络等,我们还需要了解...Mysql性能,那么我们看看Mysql性能主要内容有哪些呢?...当然这个大小是可以通过返回的性能测试进行调节,找到最适合的值。...集群监控方案 mysql性能测试的用例准备 执行测试 发布者:全栈程序员栈长,转载请注明出处:https://javaforall.cn/100709.html原文链接:

    2K40

    性能测试 —— MySQL 基准测试

    只提供测试方法,不提供性能规格 UCloud MySQL :未提供性能规格文档 美团云 MySQL :未提供性能规格文档 2....测试工具 MySQL性能测试工具还是比较多的,使用最多的是 sysbench 和 mysqlslap 。本文,我们也会使用这两个工具,进行 MySQL 性能基准测试。...如果对其他测试工具感兴趣,可以看看如下两篇文章: 《数据库性能测试》 强烈推荐,提供了很多的 MySQL 硬件方面的性能优化的方向。...它主要包括以下几种方式的测试: CPU 性能 磁盘 IO 性能 调度程序性能 内存分配及传输速度 POSIX 线程性能 数据库性能(OLTP 基准测试) 目前 sysbench 主要支持 MySQL、...《【非官方】TiDb@腾讯云使用及性能测试》 《知己知彼 – 对 Aurora 进行压力测试》 > 亚马逊官方,对 Aurora 和 MySQL 性能测试的对比。

    9.1K42

    MySQL 性能测试经验

    二、测试方法 1、测试工具:mysqlslap,mysqlslap是MySQL5.1.4之后自带的benchmark基准测试工具,该工具可以模拟多个客户端同时并发的向服务器发出查询更新,给出了性能测试数据而且提供了多种引擎的性能比较...3、关键语句:考虑到资源平台的实际应用情况,通过资源属性查询资源的操作为主要操作,且这类操作的耗时占总操作耗时的比例为最大,故对应这类操作的查询语句为关键语句,对整个数据库性能影响很大,我们可以通过测试这个关键语句得出的结果来评估整个数据库的性能...,用来将一定量数据批量插入deviceattr表中。...然后将整个建表和存储数据的过程写进一个sql脚本中,并在mysql中运行这个脚本,待测试的表和数据就建立好了。...云数据库搬迁实例解析 MySQL数据库的高可用性分析 MySQL数据库设计总结

    10.6K31

    MySQL批量插入测试数据的几种方式

    前言 在开发过程中我们不管是用来测试性能还是在生产环境中页面展示好看一点, 又或者学习验证某一知识点经常需要一些测试数据, 这个时候如果手敲的话, 十行二十行还好, 多了就很死亡了, 接下来介绍两种常用的...MySQL测试数据批量生成方式 存储方式+函数 Navicat的数据生成 一、表 准备了两张表 角色表: id: 自增长 role_name: 随机字符串, 不允许重复 orders: 1-1000..., 通过函数保证数据不重复 设置允许创建函数 查看 MySQL是否允许创建函数 SHOW VARIABLES LIKE 'log_bin_trust_function_creators'; 结果如图所示...-- 插入用户数据 DELIMITER $$ CREATE PROCEDURE insert_user(START INT, max_num INT) BEGIN DECLARE i INT...通过结果可以看到生成十一万测试数据一共用时十一秒, 比第一种方法速度快很多, 推荐使用

    55610

    常用的MySQL性能测试神器

    在我们日常的测试工作中,不可避免的要对mysql性能进行测试,对于大部分测试人员而言,工具的选择可能就是第一道门槛。...在这里,我整理了几款MySQL性能测试几款常用的工具,大家可以收藏,以备不时之需。...MySQL BenchMark Suite 在MySQL的官方发行包中提供了一套官方自己的基准测试套件,可以用于在不同数据库服务器上进行基准比较测试。...Super Smack Super Smack是一款用于MySQL 和PostgreSQL的基准测试工具,可以提供压力测试和负载生成。...它可以根据影响数据库服务器性能的各种因素来评估系统的性能。例如,可以用来测试文件I/O、操作系统调度器、内存分配和传输速度、POSIX 线程,以及数据库服务器等。

    36610

    MySQL 5.7和8.0性能测试

    背景 测试MySQL5.7和mysql8.0 分别在读写、只读、只写模式下不同并发时的性能(tps,qps) 前提 测试使用版本为mysql5.7.22和mysql8.0.15 sysbench测试前先重启...mysql服务,并清空os的cache(避免多次测试时命中缓存) 每次进行测试都是新生成测试数据后再进行mysql5.7和mysql8.0的测试 每次测试时保证mysql5.7和mysql8.0的配置参数一致...)下的性能表现 sysbench 测试时间为60s,测试的表数量为20 测试分别在双1模式(安全性)和0 2模式(高性能)下进行 参数 可选值 含义 sync_binlog 0 binlog刷盘持久化由操作系统完成...和mysql8.0 在读写模式下的表现 0 2配置,读写模式下,并发数低时,mysql5.7.22性能好于mysql8.0.15; 并发数比较高时,mysql8.0.15 性能好于mysql5.7.22...好1/3左右 结论 整体来看,mysql5.7.22在读写模式、只读模式、只写模式下的表现是优于mysql8.0.15的 随着并行数的增加,性能表现不会也跟着增加,还会出现下降 本次测试结果是在配置很低的情况下进行的

    1.7K20

    MySQL批量插入数据库实现语句性能分析

    Value 3', 'Other 3'), (103, 'Name 4', 'Value 4', 'Other 4');   上面看上去没什么问题,下面我来使用sql语句优化的小技巧,下面会分别进行测试...$connect_mysql->insert($params); if($i%100000==0){ $connect_mysql->query('COMMIT'); $connect_mysql...SQL语句:将SQL语句进行拼接,使用 insert into table () values (),(),(),()然后再一次性插入,如果字符串太长,   则需要配置下MYSQL,在mysql 命令行中运行...:set global max_allowed_packet = 2*1024*1024*10;消耗时间为:11:24:06 11:25:06;   插入200W条测试数据仅仅用了1分钟!...->query($sql);   最后总结下,在插入大批量数据时,第一种方法无疑是最差劲的,而第二种方法在实际应用中就比较广泛,第三种方法在插入测试数据或者其他低要求时比较合适,速度确实快。

    3.8K10

    MySQL性能基准测试对比:MySQL 5.7与MySQL 8.0

    这篇博文不会讨论MySQL8.0的特性,但打算将其性能MySQL 5.7进行对比,看看它是如何改进的。...InnoDB行操作 基本上在这里,我只提取了InnoDB行操作,它执行查找(读取),删除,插入和更新。当线程数量增加时,MySQL 8.0明显优于MySQL 5.7!...有趣的是,MySQL团队关于新版本中读写性能的声明,这些图表指出了性能的显著提高,特别是在高负载服务器上。...结论 MySQL 8.0中有许多改进。基准测试结果显示,与MySQL 5.7相比,MySQL 8.0不仅在处理读负载时,而且在读写混合的高负载下的性能都取得了令人瞩目的进步。...虽然此基准测试没有利用使用caching_sha2_password的新身份验证方法,但它是否使用加密不会影响性能。一旦经过身份验证,它就会存储在缓存中,这意味着身份验证只进行一次。

    6.3K20

    MySQL性能基准测试对比:MySQL 5.7与MySQL 8.0

    这篇博文不会讨论MySQL8.0的特性,但打算将其性能MySQL 5.7进行对比,看看它是如何改进的。...基本上在这里,我只提取了InnoDB行操作,它执行查找(读取),删除,插入和更新。当线程数量增加时,MySQL 8.0明显优于MySQL 5.7!...有趣的是,MySQL团队关于新版本中读写性能的声明,这些图表指出了性能的显著提高,特别是在高负载服务器上。...结论 MySQL 8.0中有许多改进。基准测试结果显示,与MySQL 5.7相比,MySQL 8.0不仅在处理读负载时,而且在读写混合的高负载下的性能都取得了令人瞩目的进步。...虽然此基准测试没有利用使用caching_sha2_password的新身份验证方法,但它是否使用加密不会影响性能。一旦经过身份验证,它就会存储在缓存中,这意味着身份验证只进行一次。

    6.2K10

    大数据应用之HBase数据插入性能优化之多线程并行插入测试案例

    一、引言:   上篇文章提起关于HBase插入性能优化设计到的五个参数,从参数配置的角度给大家提供了一个性能测试环境的实验代码。根据网友的反馈,基于单线程的模式实现的数据插入毕竟有限。...2.单笔提交数对性能的影响非常明显,需要在自己的环境下,找到最理想的数值,这个需要与单条记录的字节数相关。...四、测试结果 ---------开始MultThreadInsert测试---------- 线程:8插入数据:10000共耗时:1.328s 线程:16插入数据:10000共耗时:1.562s 线程...:11插入数据:10000共耗时:1.562s 线程:10插入数据:10000共耗时:1.812s 线程:13插入数据:10000共耗时:2.0s 线程:17插入数据:10000共耗时:2.14s...线程:14插入数据:10000共耗时:2.265s 线程:9插入数据:10000共耗时:2.468s 线程:15插入数据:10000共耗时:2.562s 线程:12插入数据:10000共耗时:

    1K40

    小白学习MySQL - 随机插入测试数据的工具

    我们日常做一些MySQL测试的时候,经常要造数据,通常就写个循环插入数据的存储过程。前两天碰巧看文章说,mysql_random_data_load程序能向MySQL随机插入大量数据,于是了解一下。...WHERE RAND() <= LIMIT mysql_random_data_load支持以下参数, 测试一下,创建一张表, create table test(id int, c1 varchar...(1)); 执行指令,6秒插入10万数据, -bash-4.2$ ..../mysql_random_data_load -h127.0.0.1 -u用户名 -p密码 --max-threads=2(线程数) 数据库名称 表名 100000(插入数据量) INFO[2021-...=================================================] 100% 看下效果,id就只有2条相同的, c1列有20个值,数据比较分散, 还是能满足基本的测试数据要求的

    1.3K20

    MySQL 插入数据

    MySQL 表中使用 INSERT INTO SQL语句来插入数据。 你可以通过 mysql> 命令提示窗口中向数据表中插入数据,或者通过PHP脚本来插入数据。...语法 以下为向MySQL数据表插入数据通用的 INSERT INTO SQL语法: INSERT INTO table_name ( field1, field2,...fieldN )...---- 通过命令提示窗口插入数据 以下我们将使用 SQL INSERT INTO 语句向 MySQL 数据表 runoob_tbl 插入数据 实例 以下实例中我们将向 runoob_tbl 表插入三条数据...接下来我们可以通过以下语句查看数据表数据: 读取数据表: select * from runoob_tbl; 输出结果: mysql6.jpg 使用PHP脚本插入数据 你可以使用PHP 的 mysqli_query...$retval ) { die('无法插入数据: ' . mysqli_error($conn)); } echo "数据插入成功\n"; mysqli_close($conn); ?

    5.8K10
    领券