首页
学习
活动
专区
圈层
工具
发布

Java调用SqlLoader将大文本导入数据库

Java调用SqlLoader将大文本导入数据库 业务场景:将一千万条数据,大约500M的文本文档的数据导入到数据库   分析:通过Java的IO流解析txt文本文档,拼接动态sql实现insert入库...,可以实现,缺点如下 第一:IO流解析大文本文件对机器性能要求较高,测试大约消耗2G左右的内存 第二:拼接sql语句insert一千万条数据大约需要2小时时间,长时间insert会锁表,如果是核心业务表...,例如订单表,会造成大量用户无法下单,影响数据库的性能 第三:这种操作可扩展性不强,每次只能针对指定的表,指定的列操作 针对以上缺点,现在通过接口调用数据库系统命令实现,通过可视化界面,选择要导入的表,...要导入那些字段,上传指定的txt文本,会自动生成对应的模板文件,实现大批量数据高效率的导入到数据库,通过可配置化即可实现,相对前一种思路扩展性较强, 具体接口如下 1 package com.sun.sqlloader.api...31 * @param pwd 数据库的密码 32 * @param database 连接数据库的地址 33 * @param fileRoute 文件路径 34

1.8K30
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    关于mysql导入大文本txt文件

    前几天在偶然的情况下,获得了一个18G的txt文件,现在需要导入到数据库中,那么该怎么导入才能保证高效并且稳定呢?...mysql插入效率 首先应该知道的就是mysql的插入效率跟下面几个点有关 1:mysql数据库引擎,myisam,innodb,甚至是memory的插入效率都是不一样 2:索引,索引也会导致插入效率变慢...3:唯一索引冲突,在插入mysql数据库时,如果有相同数据,将会报错,降低插入效率 4:mysql硬盘,机械硬盘跟固态硬盘的插入效率也是不一样的 5:导入方法,单线程多线程等 6:mysql配置项,各种缓存区大小配置...数据库引擎 我们先测试下myisam 和innodb的插入效率对比,至于memory就不测试了.没有必要....bigint(20) DEFAULT NULL,   PRIMARY KEY (`id`) ) ENGINE=MyISAM DEFAULT CHARSET=utf8; 2者都通过 Navicat txt导入方式导入

    5.2K30

    数据库导入问题

    不知道为啥,后台好多人都问数据库导入不进去的问题,本来以为这个没什么问题,结果还有不少呀,今天专门解决一下数据库导入的问题,首先,分享的项目基本都是mysql数据库的,其他数据库很少,开发时使用的数据库版本为...mysql5.7,下面先来介绍一下mysql数据库导入的问题,mysql导入数据库这里介绍两种方式导入 打开Navicat for MySQL连接上mysql 找到要连接的数据库,以要连接的数据库为名新建一个数据库...(具体可查看程程序内连接的数据库名,不过分享的项目数据库名基本为程序内连接的数据库) 以上步骤一致,接下来有两种方式导入,方式一 选中新建好的数据库,点击查询 新建查询 找到数据库文件,右键编辑,...以上为数据库导入的两种方式,如果还是不能解决,核对一下数据库版本,还是出错的话,可以给我说哟!...发送项目名称就行了,说数据库不能导入即可

    3.1K40

    ElasticSearch实战:将文本文件导入kibana

    :如何将非格式化的文本文件(如TXT等)导入到kibana中。...image.png 一,分析导入格式和导入方法 1,文本格式分析 根据官方文档 https://www.elastic.co/guide/en/kibana/current...2,导入前的准备 根据官方文档介绍,导入数据前,我们首先需要在Kibana上为该索引创建映射mapping,可以简单地理解为,为一个表格编写好表头。然后,再使用PUT语句将数据导入。...二,实际操作 1,文本处理 这里我们采用python3进行文本处理,处理的原则是,以换行符为界,每一行,做为一个独立的文档(doc)。最终输出json文件。...(2)索引类型添加完成后,会自动跳转到配置页,此时,我们重新打开Discover,即可进行关键字检索,如下图: (点击图片可看高清大图) 7.gif 至此,我们已将普通文本导入到kibana

    6.5K120

    用R进行文本分析初探——包含导入词库和和导入李白语句

    从这个意义上讲,文本数据挖掘是数据挖掘的一个分支。 文本分析是指对文本的表示及其特征项的选取;文本分析是文本挖掘、信息检索的一个基本问题,它把从文本中抽取出的特征词进行量化来表示文本信息。   ...解压后将文件放入R下library文件夹下 4.安装wordcloud 在R的命令框输入 install.packages("wordcloud") 利用Rwordseg分词包进行分词 (二)分析过程 1.基础导入...这儿我导入的是《红楼梦》的文本。...(http://pinyin.sogou.com/dict/),以本例作为例子,分别导入了文言文常用词库、红楼梦常用词库、红楼梦成员名字词库,这三个词库,让分词效果更为理想。...installDict("C:\\Users\\Administrator\\Desktop\\红楼梦词汇.scel","hongloumeng3") 为了让大家更直观的理解优化词库,举如下例子: 先导入

    2.9K50
    领券