首页
学习
活动
专区
圈层
工具
发布

从mongoDB中定时导出数据shell脚本

目标:编写一个shell脚本,以便能够将mongoDb中的数据导出成为csv格式的文件。要求:1. 为了避免导出巨量数据,仅需要过滤出当月数据和上个月的数据即可。2....由于当天的数据是不完整的,所以需要排除当天的数据以下是一个例子,将代码保存为.sh文件后使用 chmod +x 将该脚本设置为可执行,然后使用crontab命令将脚本加到定时任务当中 #!...baseDate declare -i baseTime baseTime=$((date --date "$baseDate" +"%s" * 1000)) 导出指定数据表中的数据...endTime}}}" -o $mypath/$2.csv else $exportCmd -d $1 -c $2 -f $3 -o $mypath/$2.csv fi } 导出第一张表的所有数据...'export ossDev.T_User' fields="_id,email,registerDate,photoId" exportData "ossDev" "T_User" $fields 导出第二张表的

2.4K22
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    LINUX编写脚本定时清除日志

    先看linux上是否安装crontab如果没有根据以下博客安装:https://www.cnblogs.com/Alan-Jones/p/8022936.html 脚本内容就是将日志文件大小变为0,因为如果你删除了日志文件或许的日志不会输出也不会有新的日志文件生成...,所以我们选择将文件大小变为0 脚本内容: #!...主要内容就是: find /opt/ -name '*.opt' -type f -print -exec truncate -s 0 {} \; 意思就是将opt目录下所有后缀为opt的文件大小调整为0 配置脚本权限...: chmod 777 clearopt.sh 配置定时任务:    基础用法: crontab -l    :查看定时任务    crontab -e    :添加任务    crontab...0 23 * * 1-5 /opt/clearopt.sh > /opt/clear.log 也可以直接定时执行命令不需要脚本: */1 * * * * find /opt/ -name '*.opt'

    3K90

    linux定时运行命令脚本——crontab

    Linux中,周期执行的任务一般由cron这个守护进程来处理  ps -ef | grep cron  cron读取一个或多个配置文件,这些配置文件中包含了命令行及其调用时间。...15,30,45,59 * * * * echo "xgmtest....." >> xgmtest.txt  表示,每隔15分钟,执行打印一次命令  第二步:添加定时任务。...搞定  第三步:"crontab -l" 查看定时任务是否成功或者检测/var/spool/cron下是否生成对应cron脚本 四、 cron服务   cron是一个linux下 的定时执行工具,可以在无需人工干预的情况下运行作业.../top10_all.sh(建议使用此方式) 语法错误: Syntax error: "(" unexpected 参见: LINUX - BASH Syntax Error 或者,crontab.../top10_all.sh(建议使用此方式,先进入该目录,然后在执行脚本;否则,执行脚本中的其它脚本都需要加绝对路径) 推荐参考: linux定时运行命令脚本 (crontab详解) linux crontab

    5.4K20

    Linux使用Shell脚本定时清理日志

    一、删除指定时间文件命令: 将/data/lydms-util-sms/logs/目录下所有30天前带.log的文件删除 find /data/lydms-util-sms/logs/ -mtime...+30 -name "*.log" -exec rm -rf {} \; 说明: find 对应目录 -mtime +天数 -name “文件名” -exec rm -rf {} ; find:linux.../bin/del-30-days-ago-log.sh 添加文件可运行权限 chmod +x /data/shell/bin/del-30-days-ago-log.sh 2、shell文件中添加脚本...crontab -e 将shell文件,添加到系统定时任务中 0 0 * * * /data/shell/bin/del-30-days-ago-log.sh 三、可能出现问题 1、超过运行时间,没有执行...没有将.sh文件设置为可执行文件 添加文件可运行权限 chmod +x /data/shell/bin/del-30-days-ago-log.sh 2、保存系统定时任务文件出现问题 (1)、空格问题

    2.6K10

    Linux–CentOS定时运行Python脚本

    看了postgresql的自动清理好像不太符合需求,暂定对接口请求记录表保留3个月内的记录,既然postgresql不支持那就发挥python的优势,自己写个脚本实现 执行所需 Linux下安装crontab.../article/details/50562864 ---- 操作步骤 这里有两种方法进行定时任务添加,分别是crontab -e和编辑/etc/crontab。...但有的linux系统加在crontab -e会无效,这种方法不会对语法进行校验。...具体操作步骤为: crontab -e 添加定时任务,如每周一3点执行python脚本 0 3 * * 1 python /data/www/test.py wq保存退出,完毕 语法为 # Example...,如每周一3点执行python脚本 0 3 * * 1 root python /data/www/test.py wq保存退出,完毕 在此附上python自动清理3个月前postgresql数据表脚本

    2.3K20

    Linux(centos 8)定时运行python脚本

    装入py环境并与yum软链接装入crond与crontab这些自己一搜就有可以在安装好后写一个简单的自动化脚本测试直接:crontab -e0 * * * * echo "测试" >> test.txt...就可以查看这个文件中是否有记录,来盘断运行其次Python需要一些依赖可能我们在linux系统中跑py程序是会出现: python缺少依赖的信息我们需要在脚本中添加如下创建python虚拟环境在这之前需要拿到所有需要的依赖放入比如.../home中(这里需要从自己的开发环境导出依赖,自行百度)使用venv创建虚拟环境并pip install依赖,这里不多说,可以自行百度source /opt/testVenv/bin/activate...图片具体步骤:创建sh脚本如上图source是开启py虚拟环境python 自己的py文件目录而后crontab -e0 0 7 * * cd /root/auto_call; ..../后面的是sh脚本文件路径 写入自己的路径,后面的不需要改动前面007是每天七点运行脚本crond运行注意事项:crond start启动crond restart/stop为重启或者关闭crontab

    2.2K20

    MySQL 导出脚本

    ️MySQL导出脚本下面是整合好的完整脚本。它使用了配置文件模式来隐藏密码(消除安全警告),并且会将数据库中所有表的结构和数据按顺序写入同一个full_backup.sql文件中。...导出脚本新建一个批处理文件(例如export_one_file.bat),粘贴以下代码。注意:你需要修改脚本开头REM---用户配置---下方的两个路径变量。...REM---核心命令:追加导出结构和数据---REM注意:这里没有加--no-data和--no-create-info,表示两者都导出"%DUMP_CMD%"--defaults-extra-file...echo文件名:%CD%%OUTPUT_FILE%echo==========================================pause关键点说明>>vs>:脚本中初始化文件时用>(覆盖...参数解释:--where="trueLIMIT100":限制每表只导出100条。--default-character-set=utf8mb4:防止中文乱码。

    20610

    linux 定时任务crontab防止脚本运行冲突

    定时任务crontab是linux下常用的功能,可以设置一定的间隔时间执行任务,但有可能出现任务脚本运行冲突问题 例如某脚本要运行30分钟,在crontab里设为每40分钟执行一次,而比较糟的情况是可能该脚本在执行周期内没有完成...3分钟 我用php实现的,名字为 test.php (2)编辑 crontab 添加一个定时任务,设置为一分钟执行一次上面的程序,我的设置为 * * * * * php /root/test.php...等待一分钟,查看进程信息 # ps aux | grep test.php 可以看到出现了一个test.php的进程 再等一分钟,再次执行此命令,可以看到又出现了一个test.php进程 这就说明这个定时任务脚本已经重复执行了...,如果业务逻辑是不允许重复执行,这就出现了冲突 如何确保只有一个脚本实例运行呢?...解决方法 使用linux flock 文件锁实现任务锁定,解决冲突 现在把定时任务改为这样(把test.php改为testflock.php,便于查看清晰) * * * * * flock -xn

    4.4K100

    Linux系统shell脚本编写及定时每周期运行

    Linux运维包括编写linux shell脚本,并定时让shell脚本自动运行流程,适用于新手。...注意:脚本是以.sh结尾的文件,脚本文件保存位置放哪都可以,但要知道路径,后续添加定时任务的时候需要用到。下面开始shell脚本从编写到自动定时运行的教程。...一:编写shell脚本 命令:vi name.sh 编辑你的shell脚本 二:开启定时服务 命令:service crond start 编辑完成后开启定时服务,一般是默认开启的 三:编辑添加定时任务...命令:crontab -e 例如:让此脚本每10分钟运行一次,则写入如下内容: */10 * * * * name.sh 斜杠“/”后面的*号含义是:分钟 小时 天 月 周,然后跟上要运行的脚本名字即可

    4.6K10

    Linux 制作脚本,实现定时备份到腾讯云对象存储

    region = ap-beijing max_thread = 5 part_size = 1 schema = https verify = md5 anonymous = False 3、编辑脚本文件...在[client]下添加password/user/port/host user = root password = password port = 3306 host = localhost 6、给脚本赋予执行权限...chmod 755 backup.sh 7、添加定时任务 crontab -e # 在最后一行加这一句,意思是每天3点跑脚本 0 3 * * * /root/backup.sh # 每隔三日3点执行脚本...0 3 */3 * * /root/backup.sh 8、重启一下corntab service crond restart 版权声明:本站原创文章 Linux 制作脚本,实现定时备份到腾讯云对象存储...转载请注明:Linux 制作脚本,实现定时备份到腾讯云对象存储 - 小维的个人博客 部分素材来源于网络,如有侵权请联系删除!

    2.5K10
    领券