当前位置: 萬仟网 > 网络运营>服务器>Linux > Shell脚本导入导出数据的项目示例

Shell脚本导入导出数据的项目示例

2022年09月01日 Linux 我要评论
1. 介绍在工作中 , 很多场景都会涉及到db数据的导入导出, 为了不影响正常业务, 一般会选择在夜间交易访问量小的时候定时任务跑批进行数据的导入导出. 我们公司, 由于分为了不同区域的开发中心, 应

1. 介绍

在工作中 , 很多场景都会涉及到db数据的导入导出, 为了不影响正常业务, 一般会选择在夜间交易访问量小的时候定时任务跑批进行数据的导入导出. 我们公司, 由于分为了不同区域的开发中心, 应用系统也比较多, 所以业务相互关联的各系统间的数据依赖, 我们是通过数据中台做数据中转的, 比如: a系统要做客户信息的操作但自己没有这部分信息, 客户信息主要是b系统在维护, 这时候a系统就需要用到b系统的数据.

方案就是b系统将客户信息数据资源发布到数据中台, 因为a系统向数据中台订阅了b系统的客户信息资源 , 数据中台会将客户信息资源转发到a系统服务器的指定目录, 最后a系统只需要开发shell脚本将资源文件中的数据导入本地数据库即可.

b系统需要a系统的业务数据也是一样的道理, a系统只需要将业务数据资源发布到数据中台,(a系统开发脚本将db数据导出为数据文件发送给数据中台), b系统订阅a系统的资源, 由数据中台做资源的转发.

下面主要是总结工作中用到的shell脚本如何实现db数据的导入和导出, 数据中台是一个企业级数据交换服务平台, 这里就不详细赘述了.

2. 导入数据到db2

将my_customer_info_[date].del文件数据导入my_customer_info表.

在这里插入图片描述

3. 导出db2数据

将my_customer_info表的数据导出为my_customer_info_[date].del文件.

在这里插入图片描述

导出数据也可以使用java程序先查询数据,然后通过io流写文件.

在这里插入图片描述

4. 导入数据到mysql

将my_customer_info_[date].del文件数据导入my_customer_info表.

在这里插入图片描述

导入数据部分, 如果null数据想使用空字符串替换, 可以使用nullif函数判断后替换.

在这里插入图片描述

5. 导出mysql数据

将my_customer_info表的数据导出为my_customer_info_[date].del文件.

在这里插入图片描述

6. java程序调用shell脚本

使用java.lang.runtime类实现shell脚本的调用并执行.

在这里插入图片描述

7. 遇到的问题

(1) 上面java程序调用并执行shell脚本, 需要注意服务器系统类型是linux还是aix系统, 不然传入的参数无法接收到.

(2) windows环境(\r\n)和linux环境(\r)的换行符不一样, 导致在windows系统编辑的shell脚本在linux服务器上执行报错, 需要使用vim编辑器将\r\n替换为\r.

脚本格式设置, \r\n替换为\r.

:set ff=unix

脚本格式设置, \r替换为\r\n.

:set ff=dos

到此这篇关于shell脚本导入导出数据的项目示例的文章就介绍到这了,更多相关shell导入导出数据内容请搜索萬仟网以前的文章或继续浏览下面的相关文章希望大家以后多多支持萬仟网!

(1)
打赏 微信扫一扫 微信扫一扫

相关文章:

版权声明:本文内容由互联网用户贡献,该文观点仅代表作者本人。本站仅提供信息存储服务,不拥有所有权,不承担相关法律责任。

发表评论

验证码:
Copyright © 2017-2022  萬仟网 保留所有权利. 琼ICP备2022007597号