kettle合并记录 kettle合并记录慢
关于kettle合并记录,kettle合并记录慢这个很多人还不知道,今天小然来为大家解答以上的问题,现在让我们一起来看看吧!
kettle合并记录 kettle合并记录慢
kettle合并记录 kettle合并记录慢
kettle合并记录 kettle合并记录慢
1、1) ETL调度检测下传文件状态,并登记到下传文件状态表中,通过Hyperion 设计对下传文件状态查询的BQY文档,发布到Hyperion Performance Suite 8 ,再通过Http或直接通过ODBC进行BQY查询来获取下传文件状态,从而实现了文件传输功能。
2、打开kettle,定义数据源1kettle中定义两个数据源,其中“DS_ERP”是来源数据库,“DS_ODS”是用于同步的数据库新建转换,用于同步某一张表1新建一个转换(执行SQL脚本--->>表输入--->>表输出)执行SQL脚本:删除DS_ODS库中已经存在的数据表输入:查询DS_ERP库中的数据2执行SQL脚本:删除DS_ODS库中已经存在的数据${qy_table1) 调度过程日志。
3、以文件的方式存在,用于记录Job调度中的主要过程和异常信息,如调度开始、调度完成、数据库作异常和读写文件异常。
4、_name}:这个是参数,指同步的表名3表输入:查询DS_ERP库中的数据${qy_table_name}:这个是参数,指同步的表名4表输出:将“表输入”中的结果输出到DS_ODS库中${qy_table_name}:这个是参数,指同步的表名新建转换,用于获取需要同步的表名1新建一个转换(文本文件输入--->>结果到记录)文本文件输入:通过读取指定txt文件,获取所有要同步的表。
5、(这里也可以通过其他方式获取,例如通过sql查询数据库系统表)2指定txt文件路1) 清洗类型的Job的运行依赖于相应下传文件的状态,必须是在下传文件检查及登记后才能进行清洗Job的调度。
6、径3定义txt文件中的字段名,同上一步中定义的参数名4txt中定义需要同步的表,每行一张表名新建任务,实现批量同步其中,同步表的转换需要设置循环执行,并将获取到的表名传递到转换内部。
本文到这结束,希望上面文章对大家有所帮助。
声明:本站所有文章资源内容,如无特殊说明或标注,均为采集网络资源。如若本站内容侵犯了原著者的合法权益,可联系 836084111@qq.com 删除。