首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

Java调用SqlLoader将文本导入数据库

Java调用SqlLoader将文本导入数据库 业务场景:将一千万条数据,大约500M的文本文档的数据导入到数据库   分析:通过Java的IO流解析txt文本文档,拼接动态sql实现insert入库...,可以实现,缺点如下 第一:IO流解析文本文件对机器性能要求较高,测试大约消耗2G左右的内存 第二:拼接sql语句insert一千万条数据大约需要2小时时间,长时间insert会锁表,如果是核心业务表...,例如订单表,会造成大量用户无法下单,影响数据库的性能 第三:这种操作可扩展性不强,每次只能针对指定的表,指定的列操作 针对以上缺点,现在通过接口调用数据库系统命令实现,通过可视化界面,选择要导入的表,...31 * @param pwd 数据库的密码 32 * @param database 连接数据库的地址 33 * @param fileRoute 文件路径 34...31 bw.newLine(); 32 } 33 bw.close(); 34 } 35 } 前台展示效果 只需要输入:表名和字段名,上传文本文件提交即可

1.2K30

Java读取文本文件保存到数据库

Java读取文本文件保存到数据库 1、追求效率   将文件读取到内存,效率比较高,经过测试读取1G左右的文本文件,机器内存消耗达到接近3个G,对内存消耗太大,不建议使用 2、通过调用第三方类库实现   ...; 4 import java.io.IOException; 5 import java.sql.Connection; 6 import java.sql.DriverManager;...7 import java.sql.PreparedStatement; 8 import java.sql.SQLException; 9 import java.util.Date;...Date().getTime() - startTime)/1000 + "秒"); 145 } 146 } 导入的文件模板(大约100百万模拟数据),以|作为分隔符 image.png 导入数据库成功...image.png 注意事项:   需要修改自己的数据库连接信息和指定导入文本文件的路径,insertCustInfo方法需要自己修改实现

2.2K30
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    Java数据库事务四特性以及隔离级别

    特性ACID 原子性(Atomicity)      原子性是指事务包含的所有操作要么全部成功,要么全部失败回滚。...失败回滚的操作事务,将不能对数据库有任何影响 一致性(Consistency)  一致性是指事务必须使数据库从一个一致性状态变换到另一个一致性状态,也就是说一个事务执行之前和执行之后都必须处于一致性状态...隔离性 (Isolation)   隔离性是指当多个线程并发访问数据库时,比如同时访问一张表,数据库每一个用户开启的事务,不能被其他事务所做的操作干扰,多个并发事务之间,应当相互隔离。...隔离级别又分为四种,下面会做介绍 持久性(Durability) 持久性是指事务的操作,一旦提交,对于数据库中数据的改变是永久性的,即使数据库发生故障也不能丢失已提交事务所完成的改变。...对于多数应用程序,可以优先考虑把数据库系统的隔离级别设为Read Committed。它能够避免脏读取,而且具有较好的并发性能。

    33620

    整数相乘java_整数乘法—java实现

    整数相乘 参考博客: https://blog.csdn.net/oh_maxy/article/details/10903929 https://blog.csdn.net/u010867294/article.../details/77482306 整数相乘,对于计算机来说,由于整数的范围存在限制,如果数值太大,则两个较大整数及其结果在表示时就将可能产生溢出。...分治法实现整数相乘—算法思想: 当我们输入两个大整数num1,num2,长度分别为n,m,计算机无法直接计算其结果,采用分而治之的思想,我们可以分别将两个数均分为四个部分,记作A,B,C,D,其中:...的前m/2 D为num2的后m/2 至此,我们有: num1 * num2 = (A * 10^(n/2) + B) * (C * 10^(m/2) + D)= AC * 10实现代码: import java.util....*; import static java.util.Collections.reverse; /** * @author * @date 2020/10/1 – 20:55 */ public class

    1.1K40

    java特征_java特性是什么?

    java特性:1、封装,是指隐藏对象的属性和实现细节,仅对外提供公共访问方式;2、继承,从已有的类中派生出新的类,新的类能吸收已有类的数据属性和行为,并能扩展新的能力;3、多态,一个方法可以有多种实现版本...Java特性,算是Java独特的表现,提到Java 的三特性, 我们都会想到封装, 继承和多态 这是我们Java 最重要的特性。...如果一个类没有显式的写上一个构造方法时,那么Java编译器会为该类添加一个无参的构造函数的。 如果一个类已经显式的写上一个构造方法时,那么Java编译器则不会再为该类添加一个无参的构造方法。...(3)JVM和Java编译器是不同的,Java编译器编译生成的.class文件是给JVM看的,所以经过编译后的class类打开后会是乱码,我们可以通过反编译来查看。...注意的事项: (1)Java编译器在编译一个Java源文件的时候,会把成员变量的声明语句提前至一个类的最前端。 (2)成员变量的初始化工作其实都是在构造函数中执行的。

    1.6K10

    盘点 10 数据库

    大家好,我是小五 DB-Engines 最近发布了 2021 年 9 月份的数据库排名。该网站根据数据库管理系统的受欢迎程度对其进行排名,实时统计了 378 种数据库的排名指数。...前 30 名的排行情况详见下图,前10数据库 用线段做了分割。同时在文末,会免费赠送给大家一些数据库书籍! 跌幅榜情况 较去年同期,本月三霸主集体暴跌再次霸占了“同期跌幅榜”。...虽然各大开源类数据库百花齐放,然而,在 DB-Engines 全球数据库排行榜上,Oracle 和 MySQL 依然是世界上最受欢迎的商业和开源类数据库,而且领跑优势还在继续扩大。...小众数据库不可小觑 数据库相关从业人员可以将 DB-Engines 数据库排名作为参考,大数据时代发展速度之快超乎我们的想象,新的数据库产品仍然在不断诞生,如果你的需求比较特殊,大众数据库产品无法很好地满足你...时序型数据库前 5 名排名情况如下表: InfluxDB 是一个开源的、高性能的时序型数据库,在时序型数据库 DB-Engines Ranking 上排名第一,本月总榜排名 28,较去年同期得分上涨

    2.1K10

    java特性_java的三特性是什么?

    java的三特性 Java语言的三特性即是:封装、继承、多态 首先先简单的说一下其3特性的定义: 封装: 在面向对象程式设计方法中,封装(英语:Encapsulation)是指一种将抽象性函式接口的实现细节部分包装...继承: 继承是java面向对象编程技术的一块基石,因为它允许创建分等级层次的类。...Java中所有的类都是通过直接或间接地继承java.lang.Object类得到的。继承而得到的类称为子类,被继承的类称为父类。子类不能继承父类中访问权限为private的成员变量和方法。...以上就是java特性的基本含义,大家理解一下就行了,千万别背啊!接下来我们通过一个例子来完美的解释一下java的3特性。...用java做一个简单计算器;import java.io.*; class OperationAttridute { private double numberA=0; private double

    1.1K20

    Java项目实践,JDBC连接oracle数据库的十技巧

    Java数据库连接(JDBC)API是一系列能够让Java编程人员访问数据库的接口,各个开发商的接口并不完全相同。...OCI驱动程序利用Java本地化接口(JNI),通过Oracle客户端软件与数据库进行通讯。Thin驱动程序是纯Java驱动程序,它直接与数据库进行通讯。...7、使用Oracle locator方法插入、更新对象(LOB)   Oracle的PreparedStatement类不完全支持BLOB和CLOB等对象的处理,尤其是Thin驱动程序不支持利用PreparedStatement...尽管这样作在Java中没有什么问题,但由于操作都是在数据库之外进行的,因此其他访问数据库的应用软件无法利用对象模式。...如果利用Oracle的面向对象的技术,可以通过创建一个新的数据库对象类型在数据库中模仿其数据和操作,然后使用JPublisher等工具生成自己的Java bean类。

    1K20

    数据库表优化

    读/写分离 经典的数据库拆分方案,主库负责写,从库负责读; 3. 垂直分区 根据数据表的相关性进行拆分。...水平拆分可以支撑非常的数据量。 水平拆分是指数据表行的拆分,表的行数超过 200 万行时,就会变慢,这时可以把一张的表的数据拆成多张表来存放。...数据库水平拆分 水平拆分可以支持非常的数据量。...水平拆分能够支持非常的数据量存储,应用端改造也少,但 分片事务难以解决 ,跨节点 Join 性能较差,逻辑复杂。...《Java 工程师修炼之道》的作者推荐 尽量不要对数据进行分片,因为拆分会带来逻辑、部署、运维的各种复杂度,一般的数据表在优化得当的情况下支撑千万以下的数据量是没有太大问题的。

    1.4K40

    数据库MySQL三范式

    数据库设计的黄金法则:三范式在构建任何系统时,数据库设计都是一个至关重要的环节。一个良好的数据库设计不仅能提高数据的一致性和完整性,还能优化性能和简化数据管理。...在这篇文章中,我们将深入探讨数据库设计的三范式,并提供Java代码示例来加深理解。准备好了吗?让我们一起探索如何让你的数据库设计更加健壮和高效!...public void addProduct(Product product) { // 插入产品数据到数据库 } // 省略其他方法}实战演练:整合三范式现在,我们将整合以上三个范式...Orders表 } public void addProduct(Product product) { // 添加产品到Products表 }}在这篇文章中,我们不仅学习了数据库设计的三范式...,还通过Java代码示例来加深了理解。

    17710

    数据库的三范式

    数据库的三范式 一、介绍 没有规矩,不成方圆。这句话在数据库的规范中同样适用,所以就有了这几项规定,数据库的三范式。...我相信很多人都听过三范式,面试题中也经常会问到,什么是数据库范式,这太常见了。 以前我只是机械式的回复面试官,但以后不会,不仅要学会说概念说规范,还能从实际出发,要不要严格遵守三范式。...对于数据库主键而言,其他的字段需要完全依赖于主键,而不能依赖主键中的部分。...第三范式 概念:在第二范式的基础上,进一步消除非主属性对主属性的传递函数依赖 先来看这样一张订单表,订单ID是主键字段 订单ID 订单编号 商品ID 商品名称 用户ID 数量 金额 1 1001 1 java...修改成以下两张表,消除他们的依赖关系,将满足第三范式 订单ID 订单编号 商品ID 用户ID 数量 金额 1 1001 1 1 1 9.9 商品ID 商品名称 1 java入门到入土 三、最后 在项目开发中

    74010

    数据库设计三范式

    为了建立冗余较小、结构合理的数据库,设计数据库时必须遵循一定的规则。在关系型数据库中这种规则就称为范式。范式是符合某一种设计要求的总结。要想设计一个结构合理的关系型数据库,必须满足一定的范式。...如果数据库表中的所有字段值都是不可分解的原子值,就说明该数据库表满足了第一范式。 第一范式的合理遵循需要根据系统的实际需求来定。...比如某些数据库系统中需要用到“地址”这个属性,本来直接将“地址”属性设计成一个数据库表的字段就行。...这样设计才算满足了数据库的第一范式,如下表所示。 ? 上表所示的用户信息遵循了第一范式的要求,这样在对用户使用城市进行分类的时候就非常方便,也提高了数据库的性能。...第二范式需要确保数据库表中的每一列都和主键相关,而不能只与主键的某一部分相关(主要针对联合主键而言)。也就是说在一个数据库表中,一个表中只能保存一种数据,不可以把多种数据保存在同一张数据库表中。

    1.2K120

    数据库的三范式

    当你应聘后端岗位的时候,数据库的知识必不可少,今天给大家分享一下数据库范式的通俗理解 第一范式:无重复的列 第二范式:属性完全依赖于主键 第三范式:属性不依赖于其他非主属性 总结: 第一范式(1NF...每张表只描述一件事情,就是主键对应着所有信息 第三范式(3NF) 前提:满足第一和第二范式 第三范式需要保证表中的数据和主键直接相关,而不是间接相关 注意: 阿里巴巴要求 关联查询的表不得超过3张,数据库的性能更加重要...(1NF),第二范式(2NF),第三范式(3NF) 第一范式:要求数据库的每一列都是不可分割的原子项 举个例子: 表中 家庭信息 和 学校信息 列都不满足原子性的要求,即不满足第一范式 将第一张图片进行调整...,调整后的每一列都是不可再分的,即满足第一范式(1NF) 第二范式(2NF):在第一范式的基础上,非主键属性必须依赖于主键属性 第二范式需要确保数据库表中的每一列都和主键相关,而不能只与主键的某一部分相关...如下图表就是一个满足第三范式的数据库表 订单编号 订单项目 负责人 业务员 订单数量 客户编号 001 冰箱 小明 张三 2台 1 002 洗衣机 小红 李四 8台 2 003 油烟机 小青 王五 7台

    2.8K10

    腾讯云数据库品牌升级,咖解读数据库变化

    上周,腾讯云数据库盛典上,腾讯云数据库品牌全新升级。 除了升级外,腾讯副总裁、腾讯云总裁邱跃鹏还指出数据库发展的三个变化,分别是: 云原生 国产化 开源共建 ?  ...在支撑这些业务的同时,腾讯云数据库也一直在不断把这些优秀的内部产品开放给外界使用,基于十多年的深耕,腾讯云数据库构建出了一套全站的数据库家谱的支撑体系,基于腾讯的物理中心,包括腾讯的可控操作系统,腾讯云数据库在之上构建了包括关系型...而在全站PaaS跟SaaS产品家族之中,我们有国产自研的企业级分布式数据库TDSQL,为电商、金融、零售、政务等各个行业提供全域数据库解决方案,至今已经有超过50万的客户在使用腾讯云数据库,腾讯云数据库每天支撑的交易量已经达到数十亿笔...在数据库领域,腾讯云数据库同样在不断贡献自己的开源产品,推动整个数据库领域更好地突破,19年,腾讯云数据库曾开源了支撑微信支付业务的TBase(现TDSQL PG版),而就在结束不久的Techo开发者大会上...十年磨一剑,腾讯云数据库品牌重磅升级, “企业级分布式数据库TDSQL”来了! ?

    2.4K40

    学习Java能力

    java学习应掌握的九能力有哪些?下面就跟着一起来看看吧!   在IT开发行业,Java工程师是一个可续持发展有前景的职业。那么,想要真正学好Java,那就要看看你是否真的掌握了这九能力。   ...java学习应掌握的九能力:   一、熟练的使用Java语言进行面向对象程序设计,有良好的编程习惯,熟悉常用的JavaAPI,包括集合框架、多线程(并发编程)、I/O(NIO)、Socket、JDBC...六、熟悉常用的关系型数据库产品(MySQL、Oracle),熟练的使用SQL和PL/SQL进行数据库编程。   ...九、熟练的使用产品原型工具Axure,熟练的使用设计建模工具PowerDesigner和EnterpriseArchitect,熟练的使用Java开发环境Eclipse和IntelliJ,熟练的使用前端开发环境

    36730

    java面试总结(3)

    浏览器通过Web Server 同数据库进行数据交互。...JDBC只是面向关系数据库(RDBMS)JDO更通用,提供到任何数据底层的存储功能,比如关系数据库、文件、XML以及对象数据库(ODBMS)等等,使得应用可移植性更强 121、内部类可以引用他包含类的成员吗...也可以把Action要处理的业务逻辑封装在JavaBean中,如果系统中还有EJB,那么通过JavaBean调用EJB以完成业务处理;如果没有EJB,那么就直接在JavaBean中连接数据库,进行数据库相关的操作...4、 用java访问Oracle数据库、取得记录并输出到界面 答:…………………….....6、 java类是否可以多继承,怎么实现多继承? 答:java没有多继承,但可以通过接口的形式来达到多继承的目地。 7、 面向对象的特点 答:面向对象有三特点:封装、继承、多态。

    50220
    领券