y是指每次抽取前先删除目标表
数据y抽取时全新加载数据该方式实际上将增量抽取等同于全量
抽取对于数据量不大y全量抽取的时间代价小于执行增量抽取的
算法和条件代价时y可以采用该方式。
这种方式的优点是对已有系统表结构不产生影响y不需要修改业务
操作程序y所有抽取规则由etl完成y管理维护统一y可以实现数
据的递增加载y没有风险
缺点是etl比对较复杂y设计较为复杂y度较慢与触器和时
间戳方式中的主动通知不同y全表比对方式是被动的进行全表数据
的比对y性能较差当表中没有主键或唯一列且含有重复记录时y
全表比对方式的准确性较差。
日志比对的方式是通过获取数据库层面的日志来捕获到变化的数据y
不需要改变源业务系统数据库相关表结构y数据同步的效率比较高y
同步的及时性也比较快y最大的问题就是不同数据库的日志文件结
构存在较大的差异性y实施分析起来难度比较大y同时y需要具备
访问源业务库日志表文件的权限y存在一定的风险性y所以这种方
式有很大的局限性。
日志比对方式中比较成熟的技术是datacapture)技术y
作用同样是能够捕获到上一次抽取之后产生的相关变化数据y当
cdc对源业务表进行新增更新和删除等相关操作的时就可以捕获
到相关变化的数据y相对于增量字段方式ycdc方式能够较好地捕
获到删除数据y并写入相关数据库日志表y然后再通过视图或者别
的某种可操作的方式将捕获到的变化同步到数据仓库当中去。
这种方式的优点是etl同步效率较高y不需要修改业务系统表结构y
可以实现数据的递增加载缺点是业务系统数据库版本与产品不统
一y难以统一实现y实现过程相对复杂y并且需深入研究方能实现
这种方式也通过第三方工具实现y但是y一般都是商业软件y费用
较高。
喜欢离语请大家收藏:()离语小说网更新度全网最快。
请关闭浏览器阅读模式后查看本章节,否则将出现无法翻页或章节内容丢失等现象。
苏宇穿越,突然得到了一个合成栏,世间万物,均可合成!无论是什么东西,落在苏宇的手中,都能变成稀世珍宝!在苏宇手中,只要物品足够,菜刀都能变成屠龙宝刀。普通的白纸合成出了鸿蒙金卷。普通的衣服合成出了飘渺仙衣。普通的气血丹合成出了九转金丹。任何物品,在合成栏下,都能变成无数人趋之若鹜的宝贝!...
丹,无所不能也。混沌初开,天地应混沌之气而生,造就万千宇宙万物应混沌之灵而长,成就万千生灵。取天地灵物之精华,去其糟粕,凝结成丹,服之,可治百症善资质升修为破桎梏,皆为应药理而生药性,此为小丹之道。然小丹乃小道,不可为也。混沌丹道,乃通天大道,天…...
...
和编编商量,本文于2019年10月26日周六入v,感谢大家的陪伴,也请以后继续支持,么么哒。陆珩第二部,第一部路指专栏反逆袭法则快穿作为法修第一人,陆珩是在修真界横行千年而无人敢惹的活祖宗。可当他来到小世界...
重生回到末世前,带着异能回来的林兮愿望很简单找出父母的死因,努力提升异能,和那个不太给力的男票分手只是为啥某人,不对,某死人,也不对,某丧尸王也跟着重生了林兮炸毛泥奏凯,离我远点,你...
一朝穿越,堂堂鬼医特工成红杏出墙却不知奸夫是谁的弃妃被赶出家门在荒郊野外生子。无所谓,娃都生了就养着吧。三年后,听闻爷爷病危,她携子强势归来,惊艳天下。不能修炼的废材她一招制胜。庶出兄妹作恶让你...